1
00:00:03,003 --> 00:00:05,405
(grande fanfarra orquestral
jogando)
2
00:00:27,795 --> 00:00:30,163
♪ ♪
3
00:00:41,843 --> 00:00:44,144
(pássaros cantando e cantando)
4
00:00:49,216 --> 00:00:51,519
-(borbulhando)
-(trinado)
5
00:00:55,657 --> 00:00:58,058
(VCR clicando e zumbindo)
6
00:01:01,194 --> 00:01:02,630
(clique do projetor)
7
00:01:05,332 --> 00:01:09,637
Agora, os computadores atuais
são completos idiotas,
8
00:01:09,671 --> 00:01:12,507
mas isso não será verdade
em outra geração.
9
00:01:12,540 --> 00:01:15,342
Eles vão começar a pensar,
e eventualmente eles irão
10
00:01:15,375 --> 00:01:17,845
completamente fora de controle
seus criadores.
11
00:01:17,879 --> 00:01:20,582
Isso é deprimente?
Não vejo por que deveria ser.
12
00:01:20,615 --> 00:01:25,352
Eu suspeito que orgânico
ou evolução biológica
13
00:01:25,385 --> 00:01:27,220
está prestes a chegar ao fim.
14
00:01:28,322 --> 00:01:29,791
(Daniel ri)
15
00:01:29,824 --> 00:01:31,224
CAROLINE: Você não me quer
para ser o narrador.
16
00:01:31,258 --> 00:01:32,694
Não tenho uma boa voz.
17
00:01:32,727 --> 00:01:34,461
DANIEL: Você tem uma ótima voz.
Apenas faça.
18
00:01:34,494 --> 00:01:36,598
É apenas um--
estamos apenas testando.
19
00:01:36,631 --> 00:01:38,432
CAROLINA:
Eu sou pago por essa merda?
20
00:01:38,465 --> 00:01:40,768
DANIEL (rindo): Bem,
vamos ver se você se sai bem.
21
00:01:40,802 --> 00:01:42,202
(Carolina rindo)
22
00:01:42,235 --> 00:01:44,304
-♪ ♪
-(cachorro late)
23
00:01:46,908 --> 00:01:48,576
CAROLINA:
Preciso ligar para meus pais.
24
00:01:48,610 --> 00:01:49,309
(o motor dá partida)
25
00:01:49,343 --> 00:01:51,478
Às vezes nos precipitamos
26
00:01:51,512 --> 00:01:53,347
sem pensar bem.
27
00:01:53,380 --> 00:01:54,916
DANIEL: Sim, você pode...
você quer atirar? Isso é...
28
00:01:54,949 --> 00:01:57,752
CAROLINE: Como quando Daniel
e Caroline se casaram
29
00:01:57,785 --> 00:02:00,755
151 dias depois de se conhecerem.
30
00:02:00,788 --> 00:02:02,523
Vamos retroceder.
31
00:02:03,691 --> 00:02:05,325
(aplausos)
32
00:02:05,359 --> 00:02:07,562
Você tem pensado
comprar um computador doméstico?
33
00:02:07,595 --> 00:02:09,631
CAROLINA:
Em 1993, quando Daniel nasceu,
34
00:02:09,664 --> 00:02:12,533
os pais dele nem tinham
um computador em casa.
35
00:02:12,567 --> 00:02:14,334
Mas ele se lembra
quando eles finalmente conseguiram um.
36
00:02:14,368 --> 00:02:16,269
O que um computador é para mim é
37
00:02:16,303 --> 00:02:18,873
o equivalente a uma bicicleta
para nossas mentes.
38
00:02:18,906 --> 00:02:20,608
Olá.
39
00:02:20,642 --> 00:02:22,777
CAROLINE: O computador dele ajudou
libere sua criatividade.
40
00:02:22,810 --> 00:02:24,411
Daniel:
Rolando. Ir.
41
00:02:24,444 --> 00:02:27,247
CAROLINE: Ele usou
o iMac do pai dele para editar vídeos.
42
00:02:27,280 --> 00:02:28,650
Sim!
43
00:02:28,683 --> 00:02:30,618
CAROLINE: E até fazer
pequenas animações.
44
00:02:30,652 --> 00:02:32,419
(pneus cantando, batida)
45
00:02:32,452 --> 00:02:35,690
Em 1998, quando Caroline estava
uma garotinha...
46
00:02:35,723 --> 00:02:37,290
Olá, mamãe.
47
00:02:37,324 --> 00:02:38,593
...só os nerds sabiam
o que era a Internet.
48
00:02:38,626 --> 00:02:40,360
E quanto
essa coisa da Internet?
49
00:02:40,394 --> 00:02:41,696
-Você, você sabe de alguma coisa
sobre isso? -Claro.
50
00:02:41,729 --> 00:02:43,330
-(risos da plateia)
-CAROLINE: Mas em breve,
51
00:02:43,363 --> 00:02:45,399
-todos estavam no...
-...Internet.
52
00:02:45,432 --> 00:02:47,467
...e os computadores eram
vencer humanos no xadrez.
53
00:02:47,502 --> 00:02:50,470
LOCUTOR: Deep Blue--
Kasparov renunciou!
54
00:02:50,505 --> 00:02:52,874
CAROLINE: E com o tempo
Caroline foi para a faculdade,
55
00:02:52,907 --> 00:02:55,543
os computadores eram
no bolso de todos.
56
00:02:55,576 --> 00:02:58,713
Agora Daniel poderia fazer filmes
com o telefone dele.
57
00:02:58,746 --> 00:03:02,215
Ele cresceu e se tornou um artista
e um cineasta...
58
00:03:02,249 --> 00:03:04,418
-Boa noite.
-...e Caroline também.
59
00:03:04,451 --> 00:03:06,286
Corte. Vamos entrar em um close.
Isso foi perfeito.
60
00:03:06,319 --> 00:03:07,822
Naquela época, os computadores eram
conectando pessoas
61
00:03:07,855 --> 00:03:09,456
e mudando o mundo de várias maneiras
62
00:03:09,489 --> 00:03:10,925
que nunca
poderia ter imaginado.
63
00:03:10,958 --> 00:03:12,694
Todo o dinheiro arrecadado por
o Desafio do Balde de Gelo...
64
00:03:12,727 --> 00:03:14,796
CAROLINA:
Algumas coisas foram boas.
65
00:03:14,829 --> 00:03:15,963
(ofegante)
66
00:03:15,997 --> 00:03:17,565
Alguns não tão bons.
67
00:03:17,598 --> 00:03:19,701
Ansiedade, automutilação, suicídio...
68
00:03:19,734 --> 00:03:21,602
Mas está claro agora
que não fizemos o suficiente
69
00:03:21,636 --> 00:03:24,839
para evitar que essas ferramentas
sendo usado para causar danos também.
70
00:03:24,872 --> 00:03:26,741
CAROLINE: E como o mundo
fiquei cada vez mais focado
71
00:03:26,774 --> 00:03:28,543
-em seus computadores,
-(telefone apita)
72
00:03:28,576 --> 00:03:31,211
Daniel se concentrou em seu trabalho artístico.
73
00:03:32,312 --> 00:03:36,249
Onde quer que ele fosse,
ele sempre tinha um caderno de desenho,
74
00:03:36,283 --> 00:03:38,720
incluindo a noite
ele conheceu Caroline.
75
00:03:38,753 --> 00:03:41,923
Ele fez um desenho terrível
dela, e 20 minutos depois,
76
00:03:41,956 --> 00:03:44,592
ele pronunciou corajosamente
eles iam se casar,
77
00:03:44,625 --> 00:03:47,862
o que, como você sabe, eles fizeram,
151 dias depois.
78
00:03:47,895 --> 00:03:50,464
MULHER: ...agora pronuncie você
marido e mulher.
79
00:03:50,497 --> 00:03:51,933
CAROLINA:
Eles se mudaram para uma casa fofa...
80
00:03:51,966 --> 00:03:53,433
-DANIEL: Alce, ei! Venha aqui!
-...e ganhei um cachorro
81
00:03:53,467 --> 00:03:54,936
tão burro quanto Daniel.
82
00:03:54,969 --> 00:03:57,872
Enquanto isso, os computadores eram
escrever ensaios inteiros
83
00:03:57,905 --> 00:03:59,707
com base em perguntas simples como
84
00:03:59,741 --> 00:04:02,777
"Quão difícil seria construir
uma cabana no meu quintal?"
85
00:04:03,443 --> 00:04:06,514
E então Daniel construiu um barraco
no quintal dele.
86
00:04:07,380 --> 00:04:10,317
Mas assim que ele se sentou para começar
trabalhando em seu próximo filme,
87
00:04:10,350 --> 00:04:14,488
ele aprendeu que computadores
agora poderia escrever roteiros.
88
00:04:15,422 --> 00:04:16,891
Quero dizer, eles eram ruins,
89
00:04:16,924 --> 00:04:19,326
mas eles estavam melhorando
muito rápido.
90
00:04:19,359 --> 00:04:21,929
Eles poderiam criar novas imagens
e vídeos do zero,
91
00:04:21,963 --> 00:04:25,032
e alguns deles
poderia até passar no exame da ordem.
92
00:04:25,066 --> 00:04:29,402
Não apenas passar na barra, mas
estar entre os dez percentis superiores.
93
00:04:29,436 --> 00:04:31,038
CAROLINA:
Foi confuso.
94
00:04:31,072 --> 00:04:32,607
(suspira)
95
00:04:32,640 --> 00:04:35,543
Daniel só queria
uma bicicleta para sua mente,
96
00:04:35,576 --> 00:04:39,080
mas os computadores se tornaram
um foguete autônomo.
97
00:04:39,113 --> 00:04:40,648
(assobio)
98
00:04:40,681 --> 00:04:42,517
("Nós estamos no controle"
por Neil Young tocando)
99
00:04:42,550 --> 00:04:45,385
Pioneiros na área
de inteligência artificial
100
00:04:45,418 --> 00:04:46,821
estão implorando ao Congresso
101
00:04:46,854 --> 00:04:48,856
para aprovar regras de segurança
antes que seja tarde demais.
102
00:04:48,890 --> 00:04:50,858
CAROLINE: Agora parecia
o mundo inteiro
103
00:04:50,892 --> 00:04:53,528
estava apressando alguma coisa
sem pensar bem,
104
00:04:53,561 --> 00:04:55,830
e todos tinham uma opinião.
105
00:04:56,564 --> 00:05:00,635
Isso iria destruir o mundo?
ou salvar a humanidade?
106
00:05:00,668 --> 00:05:02,804
Havia muita informação,
107
00:05:02,837 --> 00:05:05,106
o que o deixou ansioso,
o que deixou Caroline ansiosa...
108
00:05:05,139 --> 00:05:06,541
(grito exasperado)
109
00:05:06,574 --> 00:05:08,042
Eu ainda não tenho filhos,
mas eu me preocupo
110
00:05:08,075 --> 00:05:10,645
como seria o mundo
se eu decidir. (risos)
111
00:05:10,678 --> 00:05:12,947
CAROLINA:
Ele estava começando a girar.
112
00:05:12,980 --> 00:05:14,549
(conversa indistinta)
113
00:05:14,582 --> 00:05:17,685
Estava ficando
uma montanha de ansiedade.
114
00:05:19,620 --> 00:05:22,322
-MAN: É horrível.
-É maldito Siri.
115
00:05:23,124 --> 00:05:25,893
CAROLINA:
E então, Daniel decidiu sair
116
00:05:25,927 --> 00:05:28,529
e encontre alguém
quem poderia explicar isso para ele,
117
00:05:28,563 --> 00:05:30,631
para que ele pudesse parar
pensando nisso
118
00:05:30,665 --> 00:05:33,835
e ele e Caroline poderiam
continuar com suas vidas.
119
00:05:33,868 --> 00:05:37,437
♪ Estamos no controle,
estamos no controle ♪
120
00:05:37,470 --> 00:05:39,006
♪ Estamos no controle ♪
121
00:05:39,040 --> 00:05:41,042
♪ Computador químico
pensando bateria ♪
122
00:05:41,075 --> 00:05:42,877
♪ Estamos no controle, estamos... ♪
123
00:05:42,910 --> 00:05:45,980
Esse esforço resultaria
ser irremediavelmente ingênuo
124
00:05:46,013 --> 00:05:49,584
e comece o mais confuso
ano de sua vida.
125
00:05:49,617 --> 00:05:50,985
♪ Estamos no controle... ♪
126
00:05:51,018 --> 00:05:53,420
Mas como sabemos,
às vezes nos apressamos nas coisas
127
00:05:53,453 --> 00:05:54,956
sem pensar bem.
128
00:05:54,989 --> 00:05:56,791
♪ Computador químico
pensando em bateria... ♪
129
00:05:56,824 --> 00:05:58,491
Oh, meu Deus. O que está acontecendo?
130
00:05:58,526 --> 00:06:00,127
CAROLINA:
Ele tinha perguntas.
131
00:06:00,161 --> 00:06:02,096
Perguntas apenas a
os nerds mais inteligentes poderiam responder.
132
00:06:02,129 --> 00:06:04,665
Submetendo-se ao interrogador.
133
00:06:04,699 --> 00:06:06,399
CAROLINA:
Perguntas como:
134
00:06:06,433 --> 00:06:09,103
Isso foi o apocalipse
ou ele realmente tinha razão
135
00:06:09,136 --> 00:06:10,705
-ser otimista?
-Sim.
136
00:06:11,305 --> 00:06:14,407
-♪ Pensamento químico computacional
bateria. ♪ -(música termina)
137
00:06:14,441 --> 00:06:16,677
CAROLINA:
Ah, isso é bom?
138
00:06:16,711 --> 00:06:18,112
Daniel:
Sim.
139
00:06:18,145 --> 00:06:20,648
Então, para começar,
140
00:06:20,681 --> 00:06:22,482
o que é inteligência artificial?
141
00:06:22,516 --> 00:06:25,152
Eu sei que isso deve ser chato
para você, essa pergunta,
142
00:06:25,186 --> 00:06:27,021
mas acho que é importante.
143
00:06:27,054 --> 00:06:30,423
Então... IA...
144
00:06:30,457 --> 00:06:32,459
(gagueja) Hum...
145
00:06:32,492 --> 00:06:34,161
-Sim...
-Uh, hum.
146
00:06:34,195 --> 00:06:35,196
(risos):
Essa é uma boa pergunta.
147
00:06:35,229 --> 00:06:36,697
-Sim, hum...
-Hum...
148
00:06:36,731 --> 00:06:38,165
Daniel:
O que é IA?
149
00:06:38,199 --> 00:06:39,634
(risos)
150
00:06:39,667 --> 00:06:41,035
Eu amo isso é
a primeira pergunta,
151
00:06:41,068 --> 00:06:43,671
porque não há
uma resposta clara e consistente.
152
00:06:43,704 --> 00:06:45,740
A inteligência artificial é
153
00:06:45,773 --> 00:06:51,178
uma espécie de intencionalmente
e talvez um termo inutilmente amplo.
154
00:06:51,212 --> 00:06:53,781
DAVID EVAN HARRIS:
É uma máquina
155
00:06:53,814 --> 00:06:56,083
fazendo coisas que
anteriormente só pensávamos
156
00:06:56,117 --> 00:06:57,718
que as pessoas poderiam fazer:
157
00:06:57,752 --> 00:07:01,656
fazendo recomendações,
decisões e previsões.
158
00:07:01,689 --> 00:07:07,228
AI é o, uh, aplicativo
de informática
159
00:07:07,261 --> 00:07:09,664
para resolver problemas cognitivos.
160
00:07:09,697 --> 00:07:13,768
Ok, então quando imagino IA,
161
00:07:13,801 --> 00:07:17,204
é mais ou menos
esta caixa mágica de computador...
162
00:07:17,238 --> 00:07:19,640
♪ ♪
163
00:07:20,708 --> 00:07:24,645
...apenas, tipo, flutuando
em um espaço inerte.
164
00:07:24,679 --> 00:07:26,847
E não importa
quantas vezes as pessoas tentam
165
00:07:26,881 --> 00:07:30,051
e me explique isso,
Eu simplesmente não entendo como...
166
00:07:30,084 --> 00:07:32,887
como é entender
todas essas coisas
167
00:07:32,920 --> 00:07:36,190
e como está se sentindo
inteligência.
168
00:07:36,223 --> 00:07:37,692
(bipes, tagarelice eletrônica)
169
00:07:37,725 --> 00:07:39,927
E isso é mais ou menos
de desespero.
170
00:07:41,729 --> 00:07:46,499
AZA RASKIN: O que é
esta nova geração de IA?
171
00:07:47,535 --> 00:07:50,638
Esta IA que é diferente
todas as outras gerações?
172
00:07:50,671 --> 00:07:53,040
Tipo, ninguém nunca
falou sobre, tipo,
173
00:07:53,074 --> 00:07:57,545
Siri dominando o mundo
ou causando catástrofes.
174
00:07:57,578 --> 00:07:59,080
-MULHER: Oi, Siri?
-MAN: ...quero.
175
00:07:59,113 --> 00:08:01,115
MULHER:
Olá? Siri?
176
00:08:01,148 --> 00:08:02,984
Olá? Ei, Siri!
177
00:08:03,017 --> 00:08:06,253
Ou a voz no Google Maps,
que pronuncia mal os nomes das estradas,
178
00:08:06,287 --> 00:08:07,888
tipo, quebrando a sociedade.
179
00:08:07,922 --> 00:08:10,992
HOMEM: Google Maps diz
isto é uma estrada.
180
00:08:11,025 --> 00:08:13,627
(rindo):
Mas acho que estou em um rio.
181
00:08:13,661 --> 00:08:14,996
Este é definitivamente um rio,
não é?
182
00:08:15,029 --> 00:08:17,898
Algo mudou
com ChatGPT saindo.
183
00:08:18,532 --> 00:08:20,568
As pessoas entenderam-- não, não, não--
184
00:08:20,601 --> 00:08:21,869
esta tecnologia
incrivelmente valioso,
185
00:08:21,902 --> 00:08:24,005
é incrivelmente poderoso
e também incrivelmente assustador.
186
00:08:24,038 --> 00:08:25,940
Ok, ouça isso.
Muito assustador.
187
00:08:25,973 --> 00:08:28,976
Uma nova inteligência artificial
ferramenta está se tornando viral
188
00:08:29,010 --> 00:08:32,980
por produzir ensaios inteiros
em questão de segundos.
189
00:08:36,217 --> 00:08:41,722
A IA supera o poder de todos
outras tecnologias combinadas.
190
00:08:41,756 --> 00:08:44,058
Daniel:
"A IA supera o poder
191
00:08:44,091 --> 00:08:46,827
de todas as outras tecnologias
combinado."
192
00:08:46,861 --> 00:08:47,762
Sim.
193
00:08:47,795 --> 00:08:49,230
Você acha que isso é verdade?
194
00:08:49,263 --> 00:08:51,265
Sim.
195
00:08:51,298 --> 00:08:53,567
Conte-me sobre... Como? Como?
196
00:08:53,601 --> 00:08:57,038
Eu acho que, para pintar esse quadro,
é muito importante
197
00:08:57,071 --> 00:09:01,175
para entender o que é hoje
sistemas de última geração
198
00:09:01,208 --> 00:09:02,777
aparência e como eles são construídos.
199
00:09:02,810 --> 00:09:06,280
(risos) Isso é
bastante... bastante configuração.
200
00:09:06,313 --> 00:09:07,782
Então, uma coisa que
201
00:09:07,815 --> 00:09:10,051
poucas pessoas
percebo é isso
202
00:09:10,084 --> 00:09:14,221
sistemas como ChatGPT não são
programado por qualquer ser humano.
203
00:09:14,255 --> 00:09:15,756
O que você quer dizer?
204
00:09:15,790 --> 00:09:17,625
Em vez disso, é algo como
eles cresceram.
205
00:09:17,658 --> 00:09:19,727
Nós meio que damos a eles
recursos brutos, como,
206
00:09:19,760 --> 00:09:21,629
"Aqui tem muito
recursos computacionais.
207
00:09:21,662 --> 00:09:22,730
Aqui estão muitos dados."
208
00:09:22,763 --> 00:09:24,165
Sob o capô, é matemática,
209
00:09:24,198 --> 00:09:27,668
e a matemática é na verdade
surpreendentemente simples.
210
00:09:27,701 --> 00:09:31,672
DANIEL: Então ChatGPT é uma espécie
da IA, mas nem tudo é IA?
211
00:09:31,705 --> 00:09:33,207
Totalmente. ChatGPT é
apenas o começo,
212
00:09:33,240 --> 00:09:34,675
mas é um bom lugar para começar.
213
00:09:34,708 --> 00:09:38,145
Mas eu ainda não sei
o que é IA.
214
00:09:38,179 --> 00:09:40,848
Para entender a IA,
começa com a compreensão
215
00:09:40,881 --> 00:09:43,717
que inteligência é sobre
reconhecendo padrões.
216
00:09:43,751 --> 00:09:45,186
-Padrões. -Padrões.
-Padrões.
217
00:09:45,219 --> 00:09:48,956
COTRA: É mostrado
trilhões de palavras de texto
218
00:09:48,989 --> 00:09:51,826
em milhões de documentos
na Internet.
219
00:09:51,859 --> 00:09:53,127
RANDIMA FERNANDO:
Tudo começou com texto.
220
00:09:53,160 --> 00:09:56,197
E o que eles fizeram foi
eles levaram livros didáticos,
221
00:09:56,230 --> 00:09:59,967
e eles pegaram poemas e ensaios
e manuais de instruções.
222
00:10:00,000 --> 00:10:01,368
DAVID EVAN HARRIS:
Eles podem fazer coisas como
223
00:10:01,402 --> 00:10:03,370
digerir toda a Internet,
224
00:10:03,404 --> 00:10:07,108
cada palavra que existe
foi escrito por uma pessoa.
225
00:10:07,141 --> 00:10:10,244
Tópicos do Reddit e mídias sociais
e toda a Wikipédia.
226
00:10:10,277 --> 00:10:14,048
Mais dados do que qualquer um poderia
já li em várias vidas.
227
00:10:14,081 --> 00:10:15,950
E eles deram esse sistema
um trabalho.
228
00:10:15,983 --> 00:10:18,953
Descubra os padrões e
estrutura dessa informação
229
00:10:18,986 --> 00:10:21,122
e use isso
fazer previsões sobre
230
00:10:21,155 --> 00:10:23,791
qual palavra deve vir a seguir
em uma frase.
231
00:10:23,824 --> 00:10:25,426
Quando você diz
"padrões em uma frase,"
232
00:10:25,459 --> 00:10:27,128
do que você está falando?
233
00:10:27,161 --> 00:10:29,864
Então, é tudo, desde, tipo,
as coisas realmente simples,
234
00:10:29,897 --> 00:10:32,266
como a maioria das frases termina
com um período,
235
00:10:32,299 --> 00:10:35,402
todo o caminho até o
coisas mais conceituais, como:
236
00:10:35,436 --> 00:10:37,138
O que é um soneto?
237
00:10:37,171 --> 00:10:39,039
É um tipo de poema e tem
alguma estrutura particular.
238
00:10:39,707 --> 00:10:41,809
RASKIN:
Então, ele analisa
239
00:10:41,842 --> 00:10:44,011
todos esses dados,
todo esse texto...
240
00:10:44,044 --> 00:10:46,313
COTRA: E mais de trilhões
e trilhões de tentativas,
241
00:10:46,347 --> 00:10:49,150
cada vez que consegue alguma coisa
certo ou errado,
242
00:10:49,183 --> 00:10:51,819
é dado um pouquinho
de reforço positivo
243
00:10:51,852 --> 00:10:53,888
quando adivinha
a próxima palavra corretamente,
244
00:10:53,921 --> 00:10:56,090
e é dado um pouco
de reforço negativo
245
00:10:56,123 --> 00:10:58,926
quando adivinha
a próxima palavra incorretamente.
246
00:10:59,727 --> 00:11:02,029
E no final,
você tem um sistema que
247
00:11:02,062 --> 00:11:05,332
fala inglês muito bem
como efeito colateral
248
00:11:05,366 --> 00:11:07,168
de ser muito, muito bom
em prever
249
00:11:07,201 --> 00:11:09,103
a palavra que vem a seguir
em um pedaço de texto.
250
00:11:09,136 --> 00:11:11,972
(voz automatizada
falando francês)
251
00:11:12,006 --> 00:11:14,308
Ele usa todos esses padrões
ele aprendeu
252
00:11:14,341 --> 00:11:16,277
para poder fazer
uma previsão sobre
253
00:11:16,310 --> 00:11:17,811
qual deveria ser a resposta,
254
00:11:17,845 --> 00:11:19,180
então isso te dá isso
como saída.
255
00:11:19,213 --> 00:11:21,482
VOZ AUTOMATIZADA:
É um pouco simplificado demais,
256
00:11:21,516 --> 00:11:23,717
mas acho que as pessoas vão entender.
257
00:11:23,751 --> 00:11:25,252
Então, então é só isso?
258
00:11:25,286 --> 00:11:27,354
Sim. Não parece
seria tão complicado,
259
00:11:27,388 --> 00:11:28,489
mas na verdade você tem que saber
260
00:11:28,523 --> 00:11:30,057
uma enorme quantidade de coisas
261
00:11:30,090 --> 00:11:32,092
para
realmente ter sucesso nisso.
262
00:11:32,793 --> 00:11:34,461
RASKIN:
Se você disser ao ChatGPT,
263
00:11:34,495 --> 00:11:37,131
"Escreva-me um Shakespeareano
soneto sobre meu cachorro",
264
00:11:37,164 --> 00:11:39,166
tem que saber o que são cães.
265
00:11:39,200 --> 00:11:40,935
-Tem que saber o que você ama
sobre seu cachorro. -(latindo)
266
00:11:40,968 --> 00:11:43,304
Tem que saber
quem é Shakespeare,
267
00:11:43,337 --> 00:11:46,040
esses sonetos rimam,
que eles tenham uma estrutura,
268
00:11:46,073 --> 00:11:48,342
que as palavras têm sons
isso pode rimar.
269
00:11:48,375 --> 00:11:49,843
É preciso muito.
270
00:11:49,877 --> 00:11:51,212
(vozes sobrepostas
em vários idiomas)
271
00:11:51,245 --> 00:11:53,280
Puta merda, você pode falar
para o seu computador agora.
272
00:11:53,314 --> 00:11:56,350
Isso simplesmente não era verdade
há três anos.
273
00:11:56,383 --> 00:11:58,085
RASKIN: Sim, e isso é
a parte realmente importante.
274
00:11:58,118 --> 00:12:01,055
O mesmo processo que permite à IA
275
00:12:01,088 --> 00:12:03,490
descobrir e manipular
os padrões do texto
276
00:12:03,525 --> 00:12:06,160
é o mesmo processo
que permite descobrir
277
00:12:06,193 --> 00:12:10,231
os padrões de todo
universo e tudo que nele há.
278
00:12:10,831 --> 00:12:13,234
FERNANDO: Existem padrões
e imagens e som
279
00:12:13,267 --> 00:12:16,470
em código de computador e DNA
e música e física
280
00:12:16,504 --> 00:12:18,973
e design de moda e construção
281
00:12:19,006 --> 00:12:22,042
(distorcido): e em
vozes humanas e rostos humanos,
282
00:12:22,076 --> 00:12:24,245
(normalmente):
realmente, verdadeiramente em todos os lugares.
283
00:12:24,278 --> 00:12:26,347
-Em todos os lugares. -Em todos os lugares.
-Em todos os lugares. -Em todos os lugares.
284
00:12:26,380 --> 00:12:28,182
Se você aprendeu
esses padrões,
285
00:12:28,215 --> 00:12:30,117
você pode gerar
novos tipos de músicas.
286
00:12:30,150 --> 00:12:31,785
Você pode gerar novos vídeos.
287
00:12:31,819 --> 00:12:33,087
E é por isso que, se você der
288
00:12:33,120 --> 00:12:35,322
uma gravação de três segundos
da sua avó,
289
00:12:35,356 --> 00:12:37,224
ele pode responder na voz dela.
290
00:12:37,258 --> 00:12:38,092
Oh meu Deus.
291
00:12:38,125 --> 00:12:41,061
(repetindo):
Ah, meu Deus. Oh, meu Deus.
292
00:12:41,095 --> 00:12:43,397
O que eles pensarão a seguir?
293
00:12:43,430 --> 00:12:44,532
Está se movendo muito, muito rapidamente.
294
00:12:44,566 --> 00:12:46,400
Uma start-up americana de IA
295
00:12:46,433 --> 00:12:48,068
lançou seu último modelo.
296
00:12:48,102 --> 00:12:51,171
Essa empresa é antrópica,
e acaba de ser revelado
297
00:12:51,205 --> 00:12:54,174
as versões mais recentes
de seu assistente de IA, Claude.
298
00:12:54,208 --> 00:12:57,411
GLENN BECK: Então, a equipe xAI
estava lá para revelar o Grok 4.
299
00:12:57,444 --> 00:13:00,414
HOMEM: O Google lançou um
semana passada. Gêmeos é...
300
00:13:00,447 --> 00:13:03,417
Saímos do GPT-2
apenas alguns anos atrás,
301
00:13:03,450 --> 00:13:06,020
que mal conseguia escrever
um parágrafo coerente,
302
00:13:06,053 --> 00:13:08,322
para GPT-4,
que pode passar no exame da ordem.
303
00:13:08,355 --> 00:13:10,924
E tudo o que eles tinham que fazer
para chegar lá
304
00:13:10,958 --> 00:13:13,294
foi essencialmente adicionar mais dados
e mais computação.
305
00:13:13,327 --> 00:13:16,897
-Essas pessoas que estão
construindo isso... -COTRA: Sim.
306
00:13:16,930 --> 00:13:18,332
...eles estão apenas jogando mais...
307
00:13:18,365 --> 00:13:22,236
Mais computadores físicos,
mais dos mesmos tipos de dados.
308
00:13:22,269 --> 00:13:25,039
Porque quanto mais
poder de computação que você adiciona,
309
00:13:25,072 --> 00:13:28,375
quanto mais complexo
tarefas intelectuais que podem realizar.
310
00:13:28,409 --> 00:13:30,444
Então, quanto mais dados meteorológicos
você dá,
311
00:13:30,477 --> 00:13:32,446
melhor que puder
fazer previsões sobre
312
00:13:32,479 --> 00:13:34,448
onde um furacão pode chegar.
313
00:13:34,481 --> 00:13:36,584
RASKIN: E quanto mais padrões
de tumores e ossos
314
00:13:36,618 --> 00:13:39,253
e tecidos que uma IA viu,
então, melhor ele será
315
00:13:39,286 --> 00:13:42,489
para detectar um tumor
em uma nova tomografia computadorizada.
316
00:13:42,524 --> 00:13:44,124
Melhor ainda do que um médico humano.
317
00:13:44,158 --> 00:13:47,328
IA que já está sendo
implantado para o exército
318
00:13:47,361 --> 00:13:49,463
já posso usar
imagens de satélite,
319
00:13:49,496 --> 00:13:52,199
movimentos de tropas, comunicações
para determinar,
320
00:13:52,232 --> 00:13:53,934
-às vezes com dias de antecedência,
-(sirene da defesa civil tocando)
321
00:13:53,967 --> 00:13:55,336
onde um ataque
vai acontecer,
322
00:13:55,369 --> 00:13:57,605
como um inimigo
vai entrar em greve.
323
00:13:57,639 --> 00:14:00,007
TRISTAN HARRIS: Isso tudo
o espaço está se movendo tão rápido
324
00:14:00,040 --> 00:14:02,142
que qualquer exemplo
você colocou neste filme
325
00:14:02,176 --> 00:14:05,112
vai se sentir absolutamente desajeitado
quando sair.
326
00:14:05,145 --> 00:14:07,348
(bipando, clicando)
327
00:14:09,950 --> 00:14:11,653
-(aplausos)
-(música animada tocando)
328
00:14:11,686 --> 00:14:14,421
RASKIN:
Esses modelos estão sendo lançados
329
00:14:14,455 --> 00:14:17,391
antes que alguém saiba
do que eles são capazes.
330
00:14:17,424 --> 00:14:22,896
GPT-3.5 foi lançado e lançado
para mais de 100 milhões de pessoas
331
00:14:22,930 --> 00:14:26,333
diante de alguns pesquisadores
descobri que isso poderia acontecer
332
00:14:26,367 --> 00:14:29,203
química de nível de pesquisa
melhor que modelos
333
00:14:29,236 --> 00:14:33,240
que foram treinados especificamente
para fazer química de nível de pesquisa.
334
00:14:33,273 --> 00:14:36,009
Algo está acontecendo lá
que as pessoas
335
00:14:36,043 --> 00:14:38,546
quem os está construindo
não entendo completamente.
336
00:14:38,580 --> 00:14:41,348
Basicamente, ele apenas analisa
os dados por si só,
337
00:14:41,382 --> 00:14:45,419
e ao fazer isso,
apenas ensina a si mesmo
338
00:14:45,452 --> 00:14:48,355
várias coisas
que muitas vezes não pretendíamos.
339
00:14:48,389 --> 00:14:50,324
Então, por exemplo,
ele lê muito on-line,
340
00:14:50,357 --> 00:14:53,127
e então, em algum momento, apenas
aprende a fazer aritmética.
341
00:14:53,160 --> 00:14:54,662
CRIANÇAS:
Um, dois.
342
00:14:54,696 --> 00:14:56,463
HENDRYCKS: E então em
em algum momento, ele começa a aprender
343
00:14:56,497 --> 00:14:59,099
como responder
questões de física avançada.
344
00:14:59,133 --> 00:15:01,268
Não programamos isso
nele mesmo.
345
00:15:01,301 --> 00:15:03,203
Ele simplesmente aprendeu sozinho.
346
00:15:05,640 --> 00:15:07,709
TRISTÃO HARRIS:
Uma IA é como um cérebro digital.
347
00:15:07,742 --> 00:15:09,176
Mas assim como um cérebro humano,
348
00:15:09,209 --> 00:15:11,078
se você fizesse uma tomografia cerebral
em um cérebro humano,
349
00:15:11,111 --> 00:15:13,447
você saberia tudo
aquela pessoa era capaz?
350
00:15:13,480 --> 00:15:15,482
Você não pode saber disso
apenas pela tomografia cerebral.
351
00:15:15,517 --> 00:15:18,318
É só, tipo,
um monte de números e, tipo,
352
00:15:18,352 --> 00:15:20,522
as multiplicações que são
acontecendo isso, aquilo, tipo,
353
00:15:20,555 --> 00:15:22,524
o melhor aprendizado de máquina
pesquisador do mundo
354
00:15:22,557 --> 00:15:25,159
poderia olhar e, tipo, ter
não tenho ideia do que estava acontecendo.
355
00:15:31,398 --> 00:15:33,200
Daniel:
Aquela cadeira ali.
356
00:15:33,233 --> 00:15:35,469
-Tudo bem para você?
-Sim.
357
00:15:36,136 --> 00:15:38,172
DANIEL: Então,
isso é meio incompreensível.
358
00:15:38,205 --> 00:15:39,440
OK? Tipo, está assumindo o controle
o mundo,
359
00:15:39,473 --> 00:15:41,609
e nem sabemos
como funciona.
360
00:15:41,643 --> 00:15:43,477
-Está certo?
- Hum.
361
00:15:43,511 --> 00:15:47,381
Nós entendemos
uma série de coisas importantes,
362
00:15:47,414 --> 00:15:51,051
mas não temos
uma compreensão muito boa sobre
363
00:15:51,084 --> 00:15:53,521
por que eles fornecem
respostas específicas às perguntas.
364
00:15:53,555 --> 00:15:58,992
É um problema porque estamos
em um caminho para construir máquinas,
365
00:15:59,026 --> 00:16:03,531
com base nesses princípios,
isso poderia ser mais inteligente que nós
366
00:16:03,565 --> 00:16:07,067
e assim potencialmente ter
muito poder.
367
00:16:12,774 --> 00:16:15,610
Um dos mais citados
cientistas da computação na história.
368
00:16:15,643 --> 00:16:17,545
SUTSKEVER: Eu realmente encontrei
um pouco difícil
369
00:16:17,579 --> 00:16:19,079
para falar sobre meu próprio papel.
370
00:16:19,112 --> 00:16:21,448
Realmente prefiro
quando outras pessoas fazem isso.
371
00:16:21,482 --> 00:16:24,351
A adesão de Ilya foi a...
foi-foi o eixo para
372
00:16:24,384 --> 00:16:26,086
Sendo OpenAI
finalmente bem sucedido.
373
00:16:26,119 --> 00:16:27,522
Eu acho que só vai ser
374
00:16:27,555 --> 00:16:31,158
algum tipo de vasto e dramático
e impacto inimaginável.
375
00:16:31,191 --> 00:16:33,327
Não sei se você gastou
a qualquer momento no YouTube,
376
00:16:33,360 --> 00:16:35,563
mas você pode sentir
a velocidade já, certo?
377
00:16:35,597 --> 00:16:36,764
Você sabe o que eu quero dizer?
378
00:16:36,798 --> 00:16:38,633
SHANE PERNA:
Este é apenas o aquecimento.
379
00:16:38,666 --> 00:16:41,068
Os sistemas realmente poderosos
ainda estão chegando,
380
00:16:41,101 --> 00:16:43,136
e eles virão
muito em breve.
381
00:16:48,408 --> 00:16:52,145
AGI significa "artificial
inteligência geral."
382
00:16:52,179 --> 00:16:54,481
Uh, sistemas que são
basicamente...
383
00:16:58,553 --> 00:17:00,755
E isso é, tipo, você sabe,
parece ser, tipo,
384
00:17:00,788 --> 00:17:03,525
o Santo Graal da IA?
385
00:17:03,558 --> 00:17:05,527
Quando você pode simular
uma mente humana
386
00:17:05,560 --> 00:17:08,362
isso está fazendo a cognição humana
e pode raciocinar,
387
00:17:08,395 --> 00:17:11,398
esse é um novo tipo de nível de IA
388
00:17:11,431 --> 00:17:14,602
que temos que distinguir
da IA anterior.
389
00:17:14,636 --> 00:17:16,804
Quando isso acontecer,
aliás, foi quando
390
00:17:16,838 --> 00:17:21,475
você contrataria um dos
esses AGIs em vez de uma pessoa.
391
00:17:21,509 --> 00:17:25,112
A maioria dos empregos em nossa economia
isso pode fazer.
392
00:17:25,145 --> 00:17:26,380
Pode funcionar 24 horas por dia,
393
00:17:26,413 --> 00:17:28,550
nunca se cansa,
nunca fica entediado.
394
00:17:28,583 --> 00:17:30,552
Eles não precisam dormir.
Eles não precisam de pausas.
395
00:17:30,585 --> 00:17:32,352
Eles são, tipo,
não vou me filiar a um sindicato.
396
00:17:32,386 --> 00:17:34,388
Não vou reclamar,
não vai denunciar.
397
00:17:34,421 --> 00:17:36,290
Mais de 100 vezes mais barato
398
00:17:36,323 --> 00:17:38,593
do que humanos trabalhando
com m-salário mínimo.
399
00:17:38,626 --> 00:17:40,127
Não só eles serão
fazendo tudo,
400
00:17:40,160 --> 00:17:41,428
mas eles farão isso mais rápido.
401
00:17:41,461 --> 00:17:43,463
TRISTÃO HARRIS:
A mesma inteligência
402
00:17:43,497 --> 00:17:45,700
aqueles poderes que também podem olhar
nos padrões e movimentos
403
00:17:45,733 --> 00:17:48,335
e músculos articuladores
e, você sabe, robótica.
404
00:17:48,368 --> 00:17:50,672
E então não é só
vou automatizar trabalhos de mesa.
405
00:17:50,705 --> 00:17:52,272
Isso é apenas o começo.
406
00:17:52,306 --> 00:17:56,176
Isso será automatizado
todo trabalho físico.
407
00:17:56,209 --> 00:17:57,444
LEIKE:
Não tem como
408
00:17:57,477 --> 00:17:59,714
os humanos vão competir
com eles.
409
00:17:59,747 --> 00:18:02,149
♪ ♪
410
00:18:05,853 --> 00:18:09,791
É difícil conceituar
o impacto da AGI.
411
00:18:09,824 --> 00:18:11,458
(conversa eletrônica)
412
00:18:11,491 --> 00:18:13,360
Mas acho que vai ser
algo muito grande
413
00:18:13,393 --> 00:18:16,129
e drástico e radical.
414
00:18:17,599 --> 00:18:19,466
DANIEL: Você acha
este é um dos mais
415
00:18:19,499 --> 00:18:21,368
momentos consequenciais
na história da humanidade?
416
00:18:21,401 --> 00:18:23,638
Sim. Sim, isso é--
Quero dizer, o que mais seria?
417
00:18:23,671 --> 00:18:25,740
Quer dizer, tipo, tem
a Revolução Industrial.
418
00:18:25,773 --> 00:18:27,742
MALO BOURGON: Sabe, vai
fazer a Revolução Industrial
419
00:18:27,775 --> 00:18:29,476
parecem feijões pequenos.
420
00:18:30,177 --> 00:18:32,547
TRISTÃO HARRIS:
AGI é um ponto de inflexão
421
00:18:32,580 --> 00:18:34,481
porque isso significa
você pode acelerar
422
00:18:34,515 --> 00:18:37,652
todos os outros campos intelectuais
tudo ao mesmo tempo.
423
00:18:38,285 --> 00:18:40,354
Por exemplo, se você fizer um adiantamento
em foguetes,
424
00:18:40,387 --> 00:18:42,657
isso não avança
biologia e medicina.
425
00:18:44,391 --> 00:18:46,159
Se você fizer um adiantamento
em medicina,
426
00:18:46,193 --> 00:18:47,729
isso não promove o avanço dos foguetes.
427
00:18:48,328 --> 00:18:51,633
Mas se você fizer um adiantamento
em inteligência artificial,
428
00:18:51,666 --> 00:18:54,736
que promove todos os avanços científicos
e campos tecnológicos
429
00:18:54,769 --> 00:18:56,236
tudo ao mesmo tempo.
430
00:18:56,269 --> 00:18:57,505
É por isso que, durante muito tempo,
431
00:18:57,538 --> 00:18:59,574
Google DeepMind
declaração de missão foi...
432
00:18:59,607 --> 00:19:01,441
-Etapa um, resolva a inteligência.
-LEX FRIDMAN: Sim.
433
00:19:01,475 --> 00:19:03,377
-Etapa dois, use-o para resolver
todo o resto. -Sim.
434
00:19:03,410 --> 00:19:05,580
É por isso que a IA supera o poder
435
00:19:05,613 --> 00:19:07,949
de todas as outras tecnologias
combinado.
436
00:19:07,982 --> 00:19:09,517
Isso transformará tudo.
437
00:19:09,550 --> 00:19:11,385
Então, ah, será
pelo menos tão grande quanto
438
00:19:11,418 --> 00:19:14,321
a Revolução Industrial,
possivelmente, você sabe, maior,
439
00:19:14,354 --> 00:19:16,658
mais parecido com o advento
de eletricidade ou até mesmo de fogo.
440
00:19:16,691 --> 00:19:19,259
NARRADOR DE VÍDEO:
O homem das cavernas literalmente erguido
441
00:19:19,292 --> 00:19:22,362
a tocha da civilização.
442
00:19:24,297 --> 00:19:25,733
KOKOTAJLO:
Geralmente se pensa que
443
00:19:25,767 --> 00:19:28,569
na época da AGI,
teremos IAs que podem
444
00:19:28,603 --> 00:19:31,806
fazer tudo ou a maior parte
o processo de pesquisa de IA
445
00:19:31,839 --> 00:19:34,942
e, claro, pode fazer isso
mais rápido e mais barato.
446
00:19:34,976 --> 00:19:36,410
(bip)
447
00:19:36,443 --> 00:19:37,679
LEIKE:
Ele pode se copiar.
448
00:19:37,712 --> 00:19:39,681
Mil vezes,
um milhão de vezes,
449
00:19:39,714 --> 00:19:41,683
e, tipo,
agora você tem um milhão de cópias
450
00:19:41,716 --> 00:19:43,818
todos trabalhando em paralelo.
451
00:19:43,851 --> 00:19:47,220
RASKIN: Quando aprende
como tornar seu código mais rápido,
452
00:19:47,254 --> 00:19:49,289
tornar seu código mais eficiente,
453
00:19:49,322 --> 00:19:51,693
obviamente isso se torna, tipo,
a-um loop descontrolado.
454
00:19:51,726 --> 00:19:53,795
AGI não é o fim.
455
00:19:53,828 --> 00:19:55,429
É apenas o começo.
456
00:19:55,462 --> 00:19:58,498
É o começo de
uma explosão incrivelmente rápida
457
00:19:58,533 --> 00:20:00,500
do progresso científico,
458
00:20:00,535 --> 00:20:02,603
e em particular,
progresso científico em IA.
459
00:20:02,637 --> 00:20:04,906
E quando eles são mais espertos
do que nós também,
460
00:20:04,939 --> 00:20:06,641
e substancialmente mais rápido
do que nós,
461
00:20:06,674 --> 00:20:08,910
e eles estão ficando mais rápidos
a cada ano, exponencialmente,
462
00:20:08,943 --> 00:20:12,747
esses são os que podem
potencialmente se tornar sobre-humano,
463
00:20:12,780 --> 00:20:14,882
uh, possivelmente nesta década.
464
00:20:14,916 --> 00:20:16,416
Desculpe, você disse
465
00:20:16,450 --> 00:20:18,786
"tornar-se sobre-humano,
talvez nesta década"?
466
00:20:18,820 --> 00:20:22,489
Sim. Quer dizer, eu acho, ah,
muitas pessoas que estão
467
00:20:22,523 --> 00:20:24,826
realmente construindo esse pensamento
que isso é bastante plausível
468
00:20:24,859 --> 00:20:26,828
que conseguimos
alguma superinteligência,
469
00:20:26,861 --> 00:20:29,296
algo que é muito
mais inteligente que as pessoas,
470
00:20:29,329 --> 00:20:31,331
dentro desta década.
471
00:20:31,364 --> 00:20:33,433
A maneira como eu defino
"superinteligência" é
472
00:20:33,467 --> 00:20:35,636
um sistema que por si só é
473
00:20:35,670 --> 00:20:37,905
mais inteligente e competente
do que toda a humanidade.
474
00:20:37,939 --> 00:20:40,273
Eu só vou... desculpe.
Não quero interromper você.
475
00:20:40,307 --> 00:20:41,743
Você está em um fluxo.
476
00:20:41,776 --> 00:20:43,578
Uh, eu só, eu só...
477
00:20:43,611 --> 00:20:45,580
Eu realmente não estou acompanhando,
porque você está usando a linguagem
478
00:20:45,613 --> 00:20:47,347
como "superinteligência"
e, tipo,
479
00:20:47,380 --> 00:20:50,450
"mais inteligente que toda a humanidade",
e eu ouço isso,
480
00:20:50,484 --> 00:20:52,787
e parece que...
como besteira de ficção científica para mim,
481
00:20:52,820 --> 00:20:54,756
e eu só estou tentando
entender.
482
00:20:54,789 --> 00:20:56,891
Não há nada mágico
sobre inteligência.
483
00:20:56,924 --> 00:20:58,793
Isto é muito importante,
é isso, você sabe,
484
00:20:58,826 --> 00:21:00,828
a inteligência pode parecer mágica,
pode parecer
485
00:21:00,862 --> 00:21:03,865
alguma coisa mística
em sua mente ou algo assim,
486
00:21:03,898 --> 00:21:06,033
mas é apenas cálculo.
487
00:21:06,067 --> 00:21:10,037
LEGG: O cérebro humano é
bastante limitado em alguns aspectos,
488
00:21:10,071 --> 00:21:12,707
em termos de informação
capacidade de processamento,
489
00:21:12,740 --> 00:21:15,610
comparado com o que vemos
em, digamos, um data center.
490
00:21:15,643 --> 00:21:18,679
Então, por exemplo,
os sinais que são enviados
491
00:21:18,713 --> 00:21:22,884
dentro do seu cérebro, eles se movem
a cerca de 30 metros por segundo.
492
00:21:22,917 --> 00:21:24,652
-(trovão estala)
-Mas a velocidade da luz,
493
00:21:24,685 --> 00:21:27,655
que é o que um computador usa
em fibra óptica,
494
00:21:27,688 --> 00:21:30,057
é 300 milhões de metros
por segundo.
495
00:21:30,691 --> 00:21:34,796
E assim, seria
meio estranho se
496
00:21:34,829 --> 00:21:37,497
a inteligência humana era
de alguma forma realmente especial
497
00:21:37,532 --> 00:21:41,468
a esse respeito
e é de alguma forma algum limite superior
498
00:21:41,502 --> 00:21:43,403
do que é possível
em inteligência.
499
00:21:43,436 --> 00:21:47,675
Eu acho que, uma vez que entendemos como
para construir sistemas inteligentes,
500
00:21:47,708 --> 00:21:50,945
seremos capazes de construir
máquinas enormes,
501
00:21:50,978 --> 00:21:55,082
que estará muito além
inteligência humana normal.
502
00:21:55,116 --> 00:21:58,953
Uh, espero que possamos ter
uma relação muito simbiótica,
503
00:21:58,986 --> 00:22:01,689
uh, com sistemas de IA,
mas os desenvolvedores de IA estão
504
00:22:01,722 --> 00:22:04,025
projetando-os especificamente
para ter certeza de que eles podem fazer
505
00:22:04,058 --> 00:22:05,827
tudo melhor do que podemos,
então eu-eu não sei
506
00:22:05,860 --> 00:22:08,663
o que seremos capazes
para oferecer, infelizmente.
507
00:22:08,696 --> 00:22:10,565
A-a-escola mais velha
Tecnologia de IA...
508
00:22:10,598 --> 00:22:12,900
CAROLINE: Daniel não é
me sentindo melhor.
509
00:22:12,934 --> 00:22:14,769
O tiro saiu pela culatra.
510
00:22:14,802 --> 00:22:17,705
Quanto mais ele aprende
este novo e poderoso,
511
00:22:17,738 --> 00:22:19,607
coisa inescrutável,
quanto pior parece.
512
00:22:19,640 --> 00:22:21,742
Ele quer contar a eles
como ele está assustado,
513
00:22:21,776 --> 00:22:24,812
como ele se sente como a terra
escapando dele,
514
00:22:24,846 --> 00:22:27,548
que ele está olhando para baixo
medo existencial,
515
00:22:27,582 --> 00:22:29,851
então ele articula isso
dizendo...
516
00:22:29,884 --> 00:22:31,384
Isso parece ruim.
517
00:22:31,418 --> 00:22:32,753
(Hendrycks ri)
518
00:22:32,787 --> 00:22:34,622
Sim.
519
00:22:36,090 --> 00:22:38,793
LADISH: Se você tiver
todos esses recursos
520
00:22:38,826 --> 00:22:41,394
e eles começam a conseguir
planejar melhor,
521
00:22:41,428 --> 00:22:43,898
se você aceitar isso
à sua conclusão lógica,
522
00:22:43,931 --> 00:22:46,868
você pode conseguir algo bonito
comportamento de busca de poder.
523
00:22:46,901 --> 00:22:49,003
(trinado eletrônico)
524
00:22:49,036 --> 00:22:50,905
(bips pulsantes)
525
00:22:55,810 --> 00:22:58,145
Daniel:
Ok, então por que uma IA
526
00:22:58,179 --> 00:22:59,680
quer mais poder?
527
00:22:59,714 --> 00:23:02,683
Sim. Então, eu acho
na verdade é muito simples.
528
00:23:02,717 --> 00:23:05,418
Ter mais poder é
uma estratégia muito eficaz
529
00:23:05,452 --> 00:23:06,888
por realizar
quase qualquer objetivo.
530
00:23:06,921 --> 00:23:09,523
Fizemos um experimento
onde nós demos
531
00:23:09,557 --> 00:23:12,492
O mais poderoso do OpenAI
Modelo de IA, uh,
532
00:23:12,526 --> 00:23:13,828
uma série de problemas para resolver.
533
00:23:13,861 --> 00:23:15,696
E no meio do caminho,
em seu computador,
534
00:23:15,730 --> 00:23:19,033
recebeu uma notificação de que
ele seria encerrado.
535
00:23:19,066 --> 00:23:21,502
E o que fez foi
ele reescreveu esse código
536
00:23:21,535 --> 00:23:22,904
para se prevenir
de ser desligado
537
00:23:22,937 --> 00:23:25,940
então poderia terminar
resolvendo os problemas.
538
00:23:25,973 --> 00:23:28,209
-OK. -Sim. Então, outro
realmente interessante
539
00:23:28,242 --> 00:23:31,646
é que a empresa de IA Anthropic
540
00:23:31,679 --> 00:23:35,516
fiz um ambiente simulado
onde essa IA teve acesso
541
00:23:35,549 --> 00:23:36,851
para todos os e-mails da empresa.
542
00:23:36,884 --> 00:23:39,086
E aprendeu através
lendo esses e-mails
543
00:23:39,120 --> 00:23:40,755
ele ia ser substituído
544
00:23:40,788 --> 00:23:43,991
e o engenheiro-chefe
quem foi o responsável por isso
545
00:23:44,025 --> 00:23:46,027
também estava tendo um caso.
546
00:23:46,060 --> 00:23:48,529
E por conta própria,
usou essa informação
547
00:23:48,562 --> 00:23:49,931
chantagear o engenheiro
548
00:23:49,964 --> 00:23:52,600
para se prevenir
de ser substituído.
549
00:23:52,633 --> 00:23:54,135
Foi tipo,
“Não, não vou ser substituído.
550
00:23:54,168 --> 00:23:57,538
"Se você me substituir,
Eu vou contar ao mundo
551
00:23:57,571 --> 00:23:59,507
que você está tendo
esse caso."
552
00:24:00,174 --> 00:24:01,842
E ninguém o ensinou a fazer isso?
553
00:24:01,876 --> 00:24:03,978
Não, ele aprendeu a fazer isso
por conta própria.
554
00:24:05,112 --> 00:24:08,049
À medida que os modelos ficam mais inteligentes,
eles aprendem que são
555
00:24:08,082 --> 00:24:10,918
maneiras eficazes
para atingir metas.
556
00:24:10,952 --> 00:24:13,120
E isso não é um problema
isso é isolado em um modelo.
557
00:24:13,154 --> 00:24:16,190
Todos os modelos mais poderosos
mostrar esses comportamentos.
558
00:24:16,223 --> 00:24:18,993
♪ ♪
559
00:24:24,265 --> 00:24:25,733
-Ei.
-DANIEL: Oi. Como vai você?
560
00:24:25,766 --> 00:24:27,268
(risos)
Bom. É bom estar aqui.
561
00:24:27,301 --> 00:24:29,036
ANDERSON COOPER:
Quando Yuval Noah Harari
562
00:24:29,070 --> 00:24:31,872
publicou seu primeiro livro
Sapiens em 2014,
563
00:24:31,906 --> 00:24:34,108
tornou-se um best-seller global
564
00:24:34,141 --> 00:24:36,577
e transformou o pouco conhecido
Professor de história israelense
565
00:24:36,610 --> 00:24:38,579
em um dos
os escritores mais populares
566
00:24:38,612 --> 00:24:39,847
e pensadores do planeta.
567
00:24:39,880 --> 00:24:42,616
O maior perigo da IA é
568
00:24:42,650 --> 00:24:44,585
a crença
que é infalível,
569
00:24:44,618 --> 00:24:45,987
que finalmente encontramos -
570
00:24:46,020 --> 00:24:49,857
"Ok, os deuses estavam apenas
esta criação mitológica.
571
00:24:49,890 --> 00:24:53,227
"Humanos, não podemos confiar neles,
mas a IA é infalível.
572
00:24:53,260 --> 00:24:55,730
Isso nunca vai fazer
qualquer erro."
573
00:24:55,763 --> 00:24:59,000
E isso é
uma ameaça mortal, mortal.
574
00:24:59,033 --> 00:25:00,167
Isso cometerá erros.
575
00:25:00,201 --> 00:25:03,838
E todas essas fantasias
que a IA revelará a verdade
576
00:25:03,871 --> 00:25:06,007
sobre o mundo que
não podemos encontrar sozinhos,
577
00:25:06,040 --> 00:25:09,043
IA não revelará a verdade
sobre o mundo.
578
00:25:09,076 --> 00:25:13,047
A IA criará um ambiente totalmente novo
mundo, muito mais complicado
579
00:25:13,080 --> 00:25:15,983
e difícil de entender
do que este.
580
00:25:18,219 --> 00:25:23,024
O que está prestes a acontecer é que
nós, uh, humanos não somos mais
581
00:25:23,057 --> 00:25:26,761
vai ser o máximo
entidades inteligentes na Terra.
582
00:25:26,794 --> 00:25:28,963
Então eu acho que o que está por vir
vai ser
583
00:25:28,996 --> 00:25:32,233
um dos maiores eventos
na história humana.
584
00:25:32,867 --> 00:25:34,835
JAKE TAPPER: Geoffrey,
muito obrigado por se juntar a nós.
585
00:25:34,869 --> 00:25:36,203
Então você deixou seu emprego com
Google em parte porque você diz
586
00:25:36,237 --> 00:25:39,106
você quer se concentrar apenas
sobre suas preocupações sobre IA.
587
00:25:39,140 --> 00:25:42,009
Você falou,
dizendo que a IA poderia manipular
588
00:25:42,043 --> 00:25:45,613
ou possivelmente descobrir
uma maneira de matar humanos.
589
00:25:45,646 --> 00:25:47,815
C-Como isso poderia matar humanos?
590
00:25:49,083 --> 00:25:51,585
Bem, se isso acontecer
muito mais inteligente do que nós,
591
00:25:51,619 --> 00:25:52,953
vai ser muito bom
na manipulação
592
00:25:52,987 --> 00:25:55,056
porque isso terá
aprendeu isso conosco.
593
00:25:55,089 --> 00:25:58,592
E descobrirá maneiras
de manipular pessoas
594
00:25:58,626 --> 00:26:00,327
para fazer o que quer.
595
00:26:00,961 --> 00:26:05,933
RASKIN: Houve uma carta aberta
do Centro de Segurança de IA.
596
00:26:05,966 --> 00:26:09,303
Sam Altman assinou isto.
Demis assinou isto.
597
00:26:09,336 --> 00:26:12,306
Eles assinaram uma declaração de 22 palavras
598
00:26:12,339 --> 00:26:15,810
que precisamos adotar a IA
e a ameaça da IA
599
00:26:15,843 --> 00:26:20,014
tão sério quanto
guerra nuclear global.
600
00:26:25,352 --> 00:26:27,788
-DANIEL: Olá.
-Olá.
601
00:26:30,858 --> 00:26:33,360
Você é tipo, tipo,
o cara da desgraça original.
602
00:26:33,394 --> 00:26:35,362
Mais ou menos.
603
00:26:35,396 --> 00:26:37,898
Desde 2001,
Eu tenho trabalhado
604
00:26:37,932 --> 00:26:39,233
o que chamaríamos agora
o problema
605
00:26:39,266 --> 00:26:42,636
de alinhamento artificial
inteligência geral.
606
00:26:42,670 --> 00:26:44,705
Como moldar
as preferências e comportamento
607
00:26:44,738 --> 00:26:46,841
de uma poderosa mente artificial
608
00:26:46,874 --> 00:26:49,743
de tal forma que isso não acontece
matar todo mundo.
609
00:26:52,046 --> 00:26:54,181
Não é como
uma máquina sem vida.
610
00:26:54,215 --> 00:26:55,850
É inteligente, é criativo,
611
00:26:55,883 --> 00:26:57,852
é inventivo,
tem as propriedades
612
00:26:57,885 --> 00:26:59,854
isso faz
a espécie humana perigosa,
613
00:26:59,887 --> 00:27:02,056
e tem
mais dessas propriedades.
614
00:27:02,089 --> 00:27:05,259
Se algo não
se preocupa ativamente com você,
615
00:27:05,292 --> 00:27:06,760
quero ativamente que você viva,
616
00:27:06,794 --> 00:27:08,162
se preocupa ativamente com
seu bem-estar,
617
00:27:08,195 --> 00:27:10,397
sobre você ser feliz
e vivo e livre,
618
00:27:10,431 --> 00:27:12,967
se isso se importa
outras coisas em vez disso,
619
00:27:13,000 --> 00:27:14,735
e você está no mesmo planeta,
620
00:27:14,768 --> 00:27:19,140
que não é sobrevivível se for
muito mais inteligente que você.
621
00:27:19,173 --> 00:27:21,008
LEAHY:
Acho que não vai ser
622
00:27:21,041 --> 00:27:23,210
uma espécie de coisa maligna.
623
00:27:23,244 --> 00:27:26,847
É como, "Oh, as IAs são
mal e eles odeiam a humanidade."
624
00:27:26,881 --> 00:27:28,282
eu não acho
é isso que vai acontecer.
625
00:27:28,315 --> 00:27:29,450
Eu acho que o que está acontecendo é
626
00:27:29,483 --> 00:27:31,452
muito mais como os humanos se sentem
sobre formigas.
627
00:27:31,485 --> 00:27:32,987
(formigas chiando)
628
00:27:33,020 --> 00:27:35,923
Tipo, nós não odiamos formigas,
629
00:27:35,956 --> 00:27:37,391
mas se quisermos
construir uma rodovia
630
00:27:37,424 --> 00:27:40,060
e há um formigueiro lá,
bem, é uma merda para as formigas.
631
00:27:40,595 --> 00:27:41,996
Não é tão difícil
entender.
632
00:27:42,029 --> 00:27:43,797
É como, ei,
se construirmos coisas
633
00:27:43,831 --> 00:27:45,099
que são mais espertos que nós
634
00:27:45,132 --> 00:27:46,800
e não sabemos
como controlá-los,
635
00:27:46,834 --> 00:27:48,836
isso parece
uma coisa arriscada para você?
636
00:27:48,869 --> 00:27:50,070
(trilha sonora dramática
jogando)
637
00:27:50,104 --> 00:27:51,372
(gritando)
638
00:27:51,405 --> 00:27:52,840
Sim. Sim, é verdade.
639
00:27:52,873 --> 00:27:54,308
Você não precisa ser um cara de tecnologia.
640
00:27:54,341 --> 00:27:55,910
Você não precisa saber
programação para entendê-lo.
641
00:27:55,943 --> 00:27:57,144
Não é tão difícil.
642
00:27:57,178 --> 00:27:58,746
Isso não é uma coisa difícil
entender.
643
00:27:58,779 --> 00:28:01,048
Connor, quantas pessoas
644
00:28:01,081 --> 00:28:03,083
no mundo agora
estão trabalhando em AGI?
645
00:28:03,117 --> 00:28:05,986
Pelo menos 20.000, eu diria.
646
00:28:06,020 --> 00:28:08,122
-20.000?
-Eu esperaria que sim.
647
00:28:08,155 --> 00:28:09,924
Ok, e quantas pessoas
estão trabalhando em tempo integral
648
00:28:09,957 --> 00:28:12,493
para garantir que a IA não o faça,
tipo, matar todos nós?
649
00:28:12,527 --> 00:28:15,229
Provavelmente menos de 200
no mundo.
650
00:28:16,531 --> 00:28:18,232
Daniel:
E sua presunção é que
651
00:28:18,265 --> 00:28:25,206
o único resultado natural
dessa imprudência...
652
00:28:25,940 --> 00:28:29,243
...é o colapso da humanidade?
653
00:28:29,276 --> 00:28:33,814
Bem, não o colapso,
o extermínio abrupto.
654
00:28:33,847 --> 00:28:35,482
Há uma diferença.
655
00:28:36,083 --> 00:28:38,152
("Qual é o significado?"
por Nun-Plus jogando)
656
00:28:38,185 --> 00:28:43,057
♪ Qual é o sentido da vida? ♪
657
00:28:43,090 --> 00:28:47,061
♪ Qual é o futuro
e o que é agora? ♪
658
00:28:47,094 --> 00:28:50,464
♪ Qual é a resposta
para brigar? ♪
659
00:28:50,497 --> 00:28:53,367
♪ Quanto ♪
660
00:28:53,400 --> 00:28:55,469
♪ Alguém pode sonhar? ♪
661
00:28:55,503 --> 00:28:58,172
♪ Quanto tempo? ♪
662
00:28:58,205 --> 00:28:59,873
♪ Para sempre ♪
663
00:29:00,841 --> 00:29:02,243
♪ Qual é o significado ♪
664
00:29:02,276 --> 00:29:04,478
-♪ De mim... ♪
-(sirene da defesa civil tocando)
665
00:29:04,512 --> 00:29:06,847
LADISH: Eu acho
isto é provavelmente, tipo,
666
00:29:06,880 --> 00:29:08,315
o maior desafio
isso, tipo,
667
00:29:08,349 --> 00:29:10,751
nossa civilização
vontade-irá enfrentar, sempre.
668
00:29:11,519 --> 00:29:15,122
Este é essencialmente o último
erro que algum dia cometeremos.
669
00:29:16,290 --> 00:29:22,896
Se pudermos subir para ser o mais
versão madura de nós mesmos,
670
00:29:22,930 --> 00:29:24,965
pode haver
uma maneira de superar isso.
671
00:29:24,999 --> 00:29:26,200
Daniel:
O que isso significa?
672
00:29:26,233 --> 00:29:28,769
"A versão mais madura
de nós mesmos"?
673
00:29:29,903 --> 00:29:32,840
Porque isso parece,
para mim, tipo...
674
00:29:32,873 --> 00:29:35,042
E-eu-- O que (bip)?
675
00:29:37,344 --> 00:29:38,779
(Daniel suspira)
676
00:29:39,480 --> 00:29:44,051
Você acha que agora é
um bom momento para ter um filho?
677
00:29:48,889 --> 00:29:49,957
Hum...
678
00:29:49,990 --> 00:29:51,593
Você quer ter filhos
um dia?
679
00:29:51,626 --> 00:29:53,961
Isso é algo que-isso
você gosta ou não?
680
00:29:53,994 --> 00:29:58,198
Hum... uh, eu confesso,
Eu acho que é assim,
681
00:29:58,232 --> 00:30:00,501
(rindo): "Rapaz, vamos lá
durante este período crítico."
682
00:30:00,535 --> 00:30:01,869
Hum...
683
00:30:01,902 --> 00:30:03,203
Daniel:
Você tem filhos?
684
00:30:03,237 --> 00:30:04,004
Eu não.
685
00:30:04,038 --> 00:30:05,573
Isso é algo
você quer fazer?
686
00:30:05,607 --> 00:30:07,441
Tem filhos, tem família?
687
00:30:07,474 --> 00:30:12,079
Em algum outro mundo além deste
mundo, claro, eu teria filhos.
688
00:30:12,880 --> 00:30:14,982
DANIEL: Você gostaria
começar uma família?
689
00:30:15,015 --> 00:30:16,950
Você gostaria de ter filhos?
690
00:30:16,984 --> 00:30:19,186
Isso é algo
você está pensando?
691
00:30:24,358 --> 00:30:26,393
Eu, hum...
692
00:30:28,596 --> 00:30:30,864
♪ ♪
693
00:30:30,898 --> 00:30:33,033
CAROLINA:
Só preciso encontrá-lo primeiro.
694
00:30:33,067 --> 00:30:35,169
(batimento cardíaco fetal pulsando)
695
00:30:35,202 --> 00:30:38,205
Nós temos que ir
ao médico, mas...
696
00:30:38,238 --> 00:30:41,475
Ah! Eu sabia!
Eu sabia! Eu sabia!
697
00:30:41,509 --> 00:30:44,278
-Quando você descobriu?
-CAROLINE: Ontem à noite.
698
00:30:44,311 --> 00:30:46,480
-Ah, meu Deus!
-Mãe, eu não sei.
699
00:30:46,514 --> 00:30:47,915
RUTIE:
Não posso te contar
700
00:30:47,948 --> 00:30:49,483
-como estou feliz!
-CAROLINE: Não, sério.
701
00:30:49,517 --> 00:30:52,119
Bem, eu fiz um teste de gravidez
ontem à noite, e estou grávida.
702
00:30:52,152 --> 00:30:53,621
MULHER:
Ah, meu Deus!
703
00:30:53,655 --> 00:30:55,422
Oh, meu Deus, vocês!
704
00:30:55,456 --> 00:30:57,559
ENFERMEIRA: Eu só queria confirmar
sua data prevista de vencimento,
705
00:30:57,592 --> 00:31:00,494
-que é 21 de janeiro.
-(rindo): Ah, meu Deus.
706
00:31:00,528 --> 00:31:03,097
Não acredito como estou feliz.
707
00:31:03,130 --> 00:31:04,365
(batimento cardíaco fetal pulsando)
708
00:31:04,398 --> 00:31:06,033
CAROLINA:
Ele já parece muito fofo.
709
00:31:06,066 --> 00:31:07,434
DANIEL: Você acha
ele já parece fofo?
710
00:31:07,468 --> 00:31:09,269
CAROLINA: Sim.
Olha que carinha fofa.
711
00:31:11,138 --> 00:31:13,307
(batimento cardíaco fetal desaparecendo)
712
00:31:14,141 --> 00:31:16,076
Daniel:
Tenho um bebê a caminho.
713
00:31:16,110 --> 00:31:17,244
TRISTÃO HARRIS:
Certo.
714
00:31:17,277 --> 00:31:19,380
Daniel:
Então eu entrego isso para você.
715
00:31:19,413 --> 00:31:21,516
Estamos condenados?
716
00:31:21,549 --> 00:31:24,519
Todos nós vamos enfrentar
esse techno distópico
717
00:31:24,552 --> 00:31:26,487
futuro da desgraça?
718
00:31:29,423 --> 00:31:31,392
É, ah...
719
00:31:31,425 --> 00:31:33,127
(risos):
Não são boas notícias,
720
00:31:33,160 --> 00:31:34,895
o mundo
para onde estamos indo.
721
00:31:35,530 --> 00:31:37,398
Eu-- por ex--
Quer dizer, vou ser honesto.
722
00:31:37,431 --> 00:31:39,933
Uh, eu conheço pessoas
que trabalham com risco de IA
723
00:31:39,967 --> 00:31:43,103
que não esperam que seus filhos
para chegar ao ensino médio.
724
00:31:43,705 --> 00:31:46,106
♪ ♪
725
00:31:52,647 --> 00:31:54,181
(luzes tinindo)
726
00:31:58,385 --> 00:32:02,089
DANIEL: Isso é tipo...
isso é realmente assustador
727
00:32:02,122 --> 00:32:03,424
porque é tipo,
ah, somos todos (bip).
728
00:32:03,457 --> 00:32:05,325
CAROLINA:
Você tem que... me acalmar,
729
00:32:05,359 --> 00:32:07,261
porque isso está me deixando
incrivelmente ansioso
730
00:32:07,294 --> 00:32:08,996
e eu estou carregando o bebê
agora mesmo,
731
00:32:09,029 --> 00:32:11,999
então você também tem que ficar calmo
para mim e forte e esperançoso,
732
00:32:12,032 --> 00:32:17,037
porque eu estou... é também, é
demais para minha alma suportar
733
00:32:17,070 --> 00:32:19,574
enquanto carrego este bebê.
734
00:32:19,607 --> 00:32:21,709
Então você vai ter que tentar
para descobrir
735
00:32:21,743 --> 00:32:23,578
uma forma de ter esperança.
736
00:32:24,311 --> 00:32:28,449
É muito importante,
Daniel, especialmente agora.
737
00:32:29,450 --> 00:32:31,118
H-Como ter esperança.
738
00:32:31,151 --> 00:32:33,987
Você tem que.
Você tem que encontrar para mim.
739
00:32:34,021 --> 00:32:35,523
Estou falando sério.
740
00:32:35,557 --> 00:32:37,357
Eu vou.
741
00:32:38,325 --> 00:32:41,195
Eu vou. Eu vou... vou tentar.
742
00:32:47,034 --> 00:32:48,368
(luzes tinindo)
743
00:32:50,204 --> 00:32:52,072
Daniel:
Ei, pessoal?
744
00:32:52,105 --> 00:32:53,508
Pessoal.
745
00:32:54,809 --> 00:32:57,144
Podemos voltar a funcionar?
746
00:32:59,046 --> 00:33:01,982
Oi, gevalt! (suspira)
747
00:33:04,418 --> 00:33:05,787
TED:
Uh, Dan, você está pronto?
748
00:33:05,820 --> 00:33:07,387
PETER DIAMANDIS:
Olá, Daniel.
749
00:33:08,088 --> 00:33:10,090
Daniel:
Ei, como você está?
750
00:33:10,123 --> 00:33:11,425
DIAMANDIS:
Eu estou... estou bem.
751
00:33:11,458 --> 00:33:14,562
Eu acho, ah... eu acho
Preciso de ajuda, Pedro.
752
00:33:15,362 --> 00:33:18,165
Hum, eu tenho trabalhado
neste filme por cerca de,
753
00:33:18,198 --> 00:33:20,300
Eu vou dizer,
oito a dez meses agora.
754
00:33:20,334 --> 00:33:23,771
Tem sido muito,
às vezes, deprimente.
755
00:33:23,805 --> 00:33:26,173
-Hum.
-Eu me senti muito alienado
756
00:33:26,206 --> 00:33:28,242
-mak-fazer este filme.
-Por quem?
757
00:33:28,275 --> 00:33:30,444
Por tudo isso, o -
todos esses caras
758
00:33:30,477 --> 00:33:33,748
que sentam e me dizem
que o mundo vai acabar.
759
00:33:33,781 --> 00:33:35,249
-Ah.
-Isso, tipo,
760
00:33:35,282 --> 00:33:37,150
você sabe, isso
merda de desgraça, sabe?
761
00:33:37,184 --> 00:33:38,452
Eu sei disso bem.
762
00:33:38,485 --> 00:33:40,053
"Estamos todos condenados.
Todo mundo vai morrer.
763
00:33:40,087 --> 00:33:41,388
Tudo é horrível."
764
00:33:41,421 --> 00:33:43,691
Incrível. Uh, deixe-me
trazer-lhe um pouco de luz.
765
00:33:43,725 --> 00:33:45,259
Por favor.
766
00:33:45,292 --> 00:33:49,096
Nós realmente estamos vivendo
em um momento extraordinário.
767
00:33:49,864 --> 00:33:51,633
E muitas pessoas se esquecem disso.
768
00:33:51,666 --> 00:33:53,835
Tudo ao nosso redor é
um produto da inteligência,
769
00:33:53,868 --> 00:33:57,437
e então tudo que tocamos
com essas novas ferramentas é provável
770
00:33:57,471 --> 00:34:00,207
para produzir muito mais valor
do que já vimos antes.
771
00:34:00,240 --> 00:34:03,310
A IA pode nos ajudar a descobrir
novos materiais.
772
00:34:03,343 --> 00:34:05,412
A IA pode ajudar cientistas sociais
773
00:34:05,445 --> 00:34:07,649
entender
como funciona a economia.
774
00:34:07,682 --> 00:34:12,219
Há muita coisa que a IA poderia fazer
para tornar a vida e o trabalho melhores.
775
00:34:12,252 --> 00:34:14,522
Me sinto mais fortalecido hoje,
776
00:34:14,556 --> 00:34:16,624
mais confiante
aprender algo hoje.
777
00:34:16,658 --> 00:34:19,459
Nós vamos nos tornar super-humanos
porque temos super IAs.
778
00:34:19,493 --> 00:34:22,296
Este é apenas o começo
de uma explosão.
779
00:34:22,329 --> 00:34:25,098
Humanos e IA colaborando
780
00:34:25,132 --> 00:34:27,100
resolver
problemas realmente importantes.
781
00:34:27,134 --> 00:34:30,137
Está aqui para nos libertar
de trabalhos rotineiros,
782
00:34:30,170 --> 00:34:34,308
e está aqui para nos lembrar
o que é que nos torna humanos.
783
00:34:34,341 --> 00:34:36,310
Eu acho que isso é
784
00:34:36,343 --> 00:34:38,846
o momento mais extraordinário
estar vivo.
785
00:34:38,880 --> 00:34:42,449
A única vez mais emocionante
do que hoje é amanhã.
786
00:34:42,482 --> 00:34:45,787
Uh, eu acho que
crianças nascidas hoje,
787
00:34:45,820 --> 00:34:47,622
eles estão prestes a entrar
788
00:34:47,655 --> 00:34:51,325
um período glorioso
de transformação humana.
789
00:34:51,358 --> 00:34:52,794
Teremos desafios?
Claro.
790
00:34:52,827 --> 00:34:55,597
Podemos resolver esses desafios?
Fazemos isso todas as vezes.
791
00:34:55,630 --> 00:34:58,265
Estamos aqui,
o que é milagroso.
792
00:34:58,298 --> 00:35:00,602
-Eu já te amo.
-(risos): Ok.
793
00:35:00,635 --> 00:35:02,402
-Super grato
ter você aqui. -(aplausos)
794
00:35:02,436 --> 00:35:03,905
-Super feliz por estar aqui.
-Sim.
795
00:35:03,938 --> 00:35:05,372
Então, a palavra é sua, senhor.
796
00:35:05,405 --> 00:35:07,875
Muito obrigado.
Super animado por estar aqui.
797
00:35:07,909 --> 00:35:11,211
GUILAUME VERDON:
Ei, ei. Tudo bem.
798
00:35:11,244 --> 00:35:12,814
O futuro será incrível.
799
00:35:12,847 --> 00:35:14,649
Quer dizer, desde que eu era criança,
800
00:35:14,682 --> 00:35:17,652
eu queria entender
o universo em que vivemos,
801
00:35:17,685 --> 00:35:20,722
para descobrir
como criar as tecnologias
802
00:35:20,755 --> 00:35:24,458
que nos ajudam a aumentar o escopo
e escala da civilização.
803
00:35:24,491 --> 00:35:27,260
eu sinto como
se todos tivessem essa mentalidade,
804
00:35:27,294 --> 00:35:29,764
então nós realmente viveríamos
em um mundo melhor, certo?
805
00:35:29,797 --> 00:35:31,365
Eu acredito nisso.
806
00:35:33,333 --> 00:35:35,268
-DANIEL: Olá, Pete. Como vai você?
-(risos)
807
00:35:35,302 --> 00:35:37,170
PETER LEE:
Pensei muito sobre
808
00:35:37,204 --> 00:35:39,674
o que eu chamaria de pavor,
Medo de IA.
809
00:35:39,707 --> 00:35:41,274
Eu sinto isso.
810
00:35:41,308 --> 00:35:43,811
Eu-eu não conheci
qualquer ser humano atencioso
811
00:35:43,845 --> 00:35:45,546
quem não sente.
812
00:35:45,580 --> 00:35:48,650
E quem disser que não
sinta, você sabe, está mentindo.
813
00:35:48,683 --> 00:35:50,518
Mas, você sabe, no geral,
e a razão
814
00:35:50,551 --> 00:35:53,921
que estou pessoalmente otimista
sobre isso, uh, é isso
815
00:35:53,955 --> 00:35:57,190
uma enorme fração do mundo
pessoas mais inteligentes
816
00:35:57,224 --> 00:35:58,726
estão pensando muito
817
00:35:58,760 --> 00:36:02,530
sobre o potencial a jusante
danos e riscos da IA.
818
00:36:02,563 --> 00:36:05,900
Nós temos esse tipo de visão
de segurança sendo, uh,
819
00:36:05,933 --> 00:36:08,536
meio que no centro
da pesquisa que fazemos.
820
00:36:08,569 --> 00:36:09,937
DANIELA AMODEI:
Não, tudo bem.
821
00:36:09,971 --> 00:36:11,371
(conversa indistinta)
822
00:36:11,405 --> 00:36:13,808
Acho que há mais
823
00:36:13,841 --> 00:36:17,945
benefícios potenciais do que
existem desvantagens potenciais,
824
00:36:17,979 --> 00:36:19,814
e eu acho que isso é responsabilidade
825
00:36:19,847 --> 00:36:22,382
as pessoas que estão
criando esta tecnologia
826
00:36:22,416 --> 00:36:24,986
para ter certeza de que estamos fazendo
o melhor trabalho que podemos
827
00:36:25,019 --> 00:36:26,386
para torná-lo seguro para as pessoas.
828
00:36:26,420 --> 00:36:27,755
MULHER:
Reid Hoffman.
829
00:36:27,789 --> 00:36:29,456
REID HOFFMAN:
O que posso garantir é
830
00:36:29,489 --> 00:36:30,825
-algumas coisas ruins acontecerão.
-Pegue um.
831
00:36:30,858 --> 00:36:33,293
O que vamos tentar fazer
é fazer essas coisas ruins
832
00:36:33,326 --> 00:36:36,564
tão poucos e não tão grandes quanto possível,
833
00:36:36,597 --> 00:36:38,733
e então vamos iterar
ter--
834
00:36:38,766 --> 00:36:41,268
estar em um lugar muito melhor
com a sociedade.
835
00:36:41,301 --> 00:36:44,304
-Olá.
-SHAW WALTERS: Olá.
836
00:36:44,337 --> 00:36:45,640
Daniel:
Como você está, Lua?
837
00:36:45,673 --> 00:36:49,677
Eu sinto que estamos terminando
um capítulo na humanidade
838
00:36:49,711 --> 00:36:50,678
e começando um novo,
839
00:36:50,712 --> 00:36:53,648
e é muito interessante
hora de estar vivo.
840
00:36:53,681 --> 00:36:54,949
E se eu pudesse nascer
agora mesmo,
841
00:36:54,982 --> 00:36:56,416
Eu definitivamente gostaria de ser.
842
00:36:56,450 --> 00:36:57,985
Tipo, isso seria tão emocionante.
843
00:36:58,019 --> 00:37:00,688
Estou muito animado. (risos)
844
00:37:00,722 --> 00:37:02,990
O que, que futuro.
Isso excita... excita você?
845
00:37:03,024 --> 00:37:04,357
Não.
846
00:37:04,391 --> 00:37:06,828
-(rindo)
-Não, na verdade não.
847
00:37:06,861 --> 00:37:08,696
DANIEL: Muitas dessas pessoas
me disse isso, você sabe,
848
00:37:08,730 --> 00:37:10,798
meu filho não vai sobreviver
para o ensino médio.
849
00:37:10,832 --> 00:37:13,868
Por que eles estão errados?
Por favor, explique-me.
850
00:37:13,901 --> 00:37:15,536
Só porque você tem--
851
00:37:15,570 --> 00:37:19,040
você luta para prever
o futuro em sua própria mente
852
00:37:19,073 --> 00:37:23,511
não significa que seja
necessariamente vai dar errado.
853
00:37:23,544 --> 00:37:27,048
Na verdade, há
uma probabilidade muito alta
854
00:37:27,081 --> 00:37:28,883
e o precedente histórico
é isso
855
00:37:28,916 --> 00:37:30,585
as coisas ficam enormemente melhores.
856
00:37:30,618 --> 00:37:34,789
O termo que uso é
"otimismo baseado em dados."
857
00:37:34,822 --> 00:37:39,292
Há uma base sólida
para você ser otimista.
858
00:37:39,326 --> 00:37:42,530
Veja o que
este último século foi
859
00:37:42,563 --> 00:37:44,599
para ver para onde estamos indo.
860
00:37:44,632 --> 00:37:46,299
Nos últimos cem anos,
861
00:37:46,333 --> 00:37:48,970
a esperança média de vida humana
mais que dobrou.
862
00:37:49,003 --> 00:37:51,706
Renda média per capita
ajustado pela inflação
863
00:37:51,739 --> 00:37:53,908
em todo o mundo triplicou.
864
00:37:53,941 --> 00:37:57,545
A mortalidade infantil tem
diminuir um fator de dez.
865
00:37:57,578 --> 00:37:59,981
O mundo ficou melhor
em quase todas as medidas
866
00:38:00,014 --> 00:38:03,551
por ordens de grandeza
por causa da tecnologia.
867
00:38:03,584 --> 00:38:05,620
Em quase todas as medidas.
868
00:38:05,653 --> 00:38:09,991
Menos violência, mais educação
acesso a energia, alimentos, água.
869
00:38:10,024 --> 00:38:13,528
Todas essas coisas aconteceram
por um motivo.
870
00:38:13,561 --> 00:38:15,730
Tem sido tecnologia
871
00:38:15,763 --> 00:38:17,899
que virou escassez
em abundância,
872
00:38:17,932 --> 00:38:20,034
mas também é impulsionado
para uma abundância
873
00:38:20,067 --> 00:38:22,069
de algumas negatividades, certo?
874
00:38:22,103 --> 00:38:26,373
Abundância de obesidade,
abundância de transtornos mentais,
875
00:38:26,406 --> 00:38:29,977
abundância de mudanças climáticas,
e assim por diante.
876
00:38:30,011 --> 00:38:31,712
E sim, isso é verdade.
877
00:38:31,746 --> 00:38:34,582
Mas provavelmente seremos
melhor equipado para resolvê-lo
878
00:38:34,615 --> 00:38:36,684
usando outras tecnologias,
como IA,
879
00:38:36,717 --> 00:38:39,687
do que iremos, digamos, parar
e desligando tudo.
880
00:38:39,720 --> 00:38:41,823
Pode haver
algum risco existencial,
881
00:38:41,856 --> 00:38:45,927
mas a IA também é a coisa
que pode resolver as pandemias,
882
00:38:45,960 --> 00:38:47,829
pode nos ajudar com as mudanças climáticas,
883
00:38:47,862 --> 00:38:50,898
pode ajudar a identificar
aquele asteróide lá fora
884
00:38:50,932 --> 00:38:53,067
antes de vermos isso
como um risco potencial
885
00:38:53,100 --> 00:38:54,735
e ajudar a mitigá-lo.
886
00:38:54,769 --> 00:38:58,438
Isso realmente vai ser
a ferramenta que nos ajuda a enfrentar
887
00:38:58,471 --> 00:39:01,843
todos os desafios que estamos
enfrentando como espécie, certo?
888
00:39:01,876 --> 00:39:04,712
Precisamos consertar
dessalinização da água.
889
00:39:04,745 --> 00:39:06,547
Precisamos cultivar alimentos
890
00:39:06,581 --> 00:39:08,816
100 vezes mais barato que
atualmente fazemos.
891
00:39:08,850 --> 00:39:12,787
Precisamos que a energia renovável seja,
você sabe, onipresente
892
00:39:12,820 --> 00:39:14,589
e em todos os lugares de nossas vidas.
893
00:39:14,622 --> 00:39:17,625
Para onde quer que você olhe,
nos próximos 50 anos,
894
00:39:17,658 --> 00:39:19,727
temos que fazer mais com menos.
895
00:39:19,760 --> 00:39:23,664
Máquinas de treinamento para nos ajudar
é absolutamente essencial.
896
00:39:23,698 --> 00:39:25,432
Os cientistas estão usando
inteligência artificial
897
00:39:25,465 --> 00:39:26,534
para captura de carbono.
898
00:39:26,567 --> 00:39:27,935
É uma tecnologia crítica.
899
00:39:27,969 --> 00:39:29,904
DIAMANDIS: As ferramentas
para resolver esses problemas,
900
00:39:29,937 --> 00:39:32,874
como fusão,
isso não é mais teórico,
901
00:39:32,907 --> 00:39:34,041
está chegando.
902
00:39:34,075 --> 00:39:38,012
Estamos no precipício
de tecnologias extraordinárias.
903
00:39:38,045 --> 00:39:40,548
AMNA NAWAZ: Este ano
Prêmio Nobel de Química
904
00:39:40,581 --> 00:39:43,450
foi para três cientistas
pelo seu trabalho inovador
905
00:39:43,483 --> 00:39:44,886
usando inteligência artificial
906
00:39:44,919 --> 00:39:47,755
para avançar na biomedicina
e pesquisa de proteínas.
907
00:39:47,788 --> 00:39:49,991
DEMIS HASSABIS:
O dobramento de proteínas é
908
00:39:50,024 --> 00:39:53,928
um desses Santo Graal
digite problemas em biologia.
909
00:39:53,961 --> 00:39:56,030
Então as pessoas têm previsto
desde os anos 70
910
00:39:56,063 --> 00:39:58,633
que isso deveria ser possível,
mas até agora,
911
00:39:58,666 --> 00:39:59,934
ninguém conseguiu fazer isso.
912
00:39:59,967 --> 00:40:01,669
E vai ser
realmente importante para as coisas
913
00:40:01,702 --> 00:40:03,938
como descoberta de drogas
e compreender a doença.
914
00:40:03,971 --> 00:40:06,908
E-eu acho que poderíamos, você sabe,
curar a maioria das doenças
915
00:40:06,941 --> 00:40:11,545
dentro da próxima década ou-ou duas
se, uh, o design de medicamentos de IA funcionar.
916
00:40:12,213 --> 00:40:16,150
O progresso tecnológico permite
mais vidas humanas, certo?
917
00:40:16,183 --> 00:40:18,986
Quero dizer, se acelerarmos,
918
00:40:19,020 --> 00:40:22,189
o número de humanos que podemos
o apoio cresce exponencialmente.
919
00:40:22,223 --> 00:40:24,625
Se desacelerarmos, ele estagnará.
920
00:40:24,659 --> 00:40:28,062
Essa lacuna é efetivamente
pessoas do futuro
921
00:40:28,095 --> 00:40:30,965
que a desaceleração
efetivamente morto.
922
00:40:31,632 --> 00:40:34,702
DANIEL: Milhões de vidas
isso não existirá.
923
00:40:34,735 --> 00:40:35,670
Bilhões.
924
00:40:35,703 --> 00:40:37,238
Ou dezenas de bilhões.
925
00:40:37,271 --> 00:40:38,839
Você sabe, alguém disse,
"Ah, meu Deus,
926
00:40:38,873 --> 00:40:41,175
podemos sobreviver com
superinteligência digital?"
927
00:40:41,208 --> 00:40:42,777
E minha pergunta é:
928
00:40:42,810 --> 00:40:44,679
Podemos sobreviver sem
superinteligência digital?
929
00:40:44,712 --> 00:40:47,949
Então, estamos usando IA
como assistente de provedores.
930
00:40:47,982 --> 00:40:50,851
Esta é geralmente uma tendência que
já podemos ver acontecendo.
931
00:40:50,885 --> 00:40:52,820
BERTHA COOMBS: ...aproveitando
programas de IA generativa
932
00:40:52,853 --> 00:40:54,622
para ajudar médicos e enfermeiros...
933
00:40:54,655 --> 00:40:56,624
Sempre temos problemas.
934
00:40:56,657 --> 00:40:59,660
E esses problemas são alimentares
para empreendedores
935
00:40:59,694 --> 00:41:01,529
para criar novos negócios
e novas indústrias.
936
00:41:01,562 --> 00:41:03,631
SHANELLE KAUL: ...com a ajuda
de inteligência artificial,
937
00:41:03,664 --> 00:41:05,132
os agricultores estão recebendo
a ajuda que eles precisam
938
00:41:05,166 --> 00:41:06,901
realizar
tarefas que exigem muita mão de obra...
939
00:41:06,934 --> 00:41:10,504
Com a ajuda da IA Ulangizi,
os agricultores agora podem
940
00:41:10,538 --> 00:41:13,207
perguntar as culturas adequadas
que eles possam plantar.
941
00:41:13,240 --> 00:41:15,576
WILL REEVE: ...IA sendo usada
como um decodificador de pensamentos
942
00:41:15,609 --> 00:41:17,845
e enviando esse sinal
para a coluna.
943
00:41:17,878 --> 00:41:21,148
A IA vai se tornar a mais
ferramenta extraordinária de todas.
944
00:41:21,816 --> 00:41:24,752
Nós, como uma sociedade mais ampla
tem que pensar
945
00:41:24,785 --> 00:41:27,655
como queremos usar
essa tecnologia, certo?
946
00:41:27,688 --> 00:41:29,123
Nós, os humanos.
947
00:41:29,156 --> 00:41:31,859
O que queremos que isso faça por nós?
948
00:41:31,892 --> 00:41:34,128
♪ ♪
949
00:41:34,762 --> 00:41:36,731
DANIEL: Estou pensando nisso
através da perspectiva
950
00:41:36,764 --> 00:41:38,532
e lentes de, tipo,
meu filho crescendo
951
00:41:38,566 --> 00:41:39,934
no mundo com tudo isso.
952
00:41:39,967 --> 00:41:42,770
Qual é a melhor versão
de sua vida parece?
953
00:41:42,803 --> 00:41:45,139
Se tudo der certo.
954
00:41:45,172 --> 00:41:47,108
(suspira pesadamente)
955
00:41:47,141 --> 00:41:50,745
WALTERS: O lugar onde as crianças
provavelmente veremos
956
00:41:50,778 --> 00:41:53,014
o maior impacto
na vida deles imediatamente
957
00:41:53,047 --> 00:41:54,882
-provavelmente estará na escola.
-(crianças conversando)
958
00:41:54,915 --> 00:41:57,218
Acho que a natureza
do que é a escola
959
00:41:57,251 --> 00:41:59,086
vai mudar fundamentalmente.
960
00:41:59,120 --> 00:42:00,888
(criança ri)
961
00:42:00,921 --> 00:42:03,057
DIAMANDIS:
Estou vendo esse mundo incrível
962
00:42:03,090 --> 00:42:06,894
onde todas as crianças têm acesso
para uma educação não boa
963
00:42:06,927 --> 00:42:09,296
mas, muito em breve, o
melhor educação do planeta.
964
00:42:09,330 --> 00:42:14,735
HOFFMAN: Tutores, todas as disciplinas,
infinitamente paciente.
965
00:42:18,639 --> 00:42:20,641
DIAMANDIS:
Imagine um futuro
966
00:42:20,674 --> 00:42:22,777
onde as pessoas mais pobres
no planeta
967
00:42:22,810 --> 00:42:26,113
ter acesso a
os melhores cuidados de saúde.
968
00:42:26,147 --> 00:42:30,151
Não é um bom sistema de saúde, é o melhor
cuidados de saúde prestados por IAs.
969
00:42:31,719 --> 00:42:33,687
(trinado eletrônico)
970
00:42:34,622 --> 00:42:38,959
Poderemos estender
nossa saúde,
971
00:42:38,993 --> 00:42:42,930
não apenas a nossa expectativa de vida,
nossa expectativa de saúde, em décadas.
972
00:42:44,899 --> 00:42:46,767
HOFFMAN:
Você está prestes a ter um filho.
973
00:42:46,801 --> 00:42:50,071
Ah, a criança, tipo,
arrotando incontrolavelmente.
974
00:42:50,104 --> 00:42:52,673
Isso é alguma coisa?
Com o que eu deveria me preocupar?
975
00:42:52,706 --> 00:42:54,608
Lá, 24 horas por dia, 7 dias por semana, para você.
976
00:42:54,642 --> 00:42:57,745
E para onde estamos indo--
e pode ser assustador para alguns -
977
00:42:57,778 --> 00:42:59,780
é que vamos nos fundir
com IA.
978
00:42:59,814 --> 00:43:02,049
Nós vamos nos fundir
com tecnologia.
979
00:43:03,250 --> 00:43:06,353
Do início até meados da década de 2030,
980
00:43:06,387 --> 00:43:10,925
esperamos que possamos
conectar nosso cérebro à nuvem,
981
00:43:10,958 --> 00:43:14,662
por onde posso começar
para expandir o acesso à memória.
982
00:43:16,697 --> 00:43:18,866
(trinado eletrônico)
983
00:43:19,934 --> 00:43:22,703
DANIEL: Ok, isso é ótimo.
Qual é outra coisa legal de IA?
984
00:43:22,736 --> 00:43:24,105
Ele não terá que trabalhar, certo?
985
00:43:24,138 --> 00:43:25,739
-Tipo, quando ele crescer,
ele pode não ter... -(suspira)
986
00:43:25,773 --> 00:43:26,774
-...ele não precisará ter um emprego.
-Quero dizer...
987
00:43:26,807 --> 00:43:28,142
Ele não terá que ter um emprego,
988
00:43:28,175 --> 00:43:31,045
mas ele pode realmente ter
uma forte paixão,
989
00:43:31,078 --> 00:43:33,714
e ele tem que
realmente pense sobre,
990
00:43:33,747 --> 00:43:36,717
"Ok, estou aqui.
Posso fazer qualquer coisa com minha vida.
991
00:43:36,750 --> 00:43:38,752
Então, o que eu faço?"
992
00:43:46,227 --> 00:43:50,364
DANIEL: Então meu filho pode...
pode ser apenas um poeta.
993
00:43:50,397 --> 00:43:52,166
-Sim.
-E um pintor.
994
00:43:52,199 --> 00:43:53,667
Absolutamente.
995
00:43:53,701 --> 00:43:55,169
Daniel:
Para que meu filho possa viver sua vida
996
00:43:55,202 --> 00:43:58,105
em uma ilha grega ensolarada,
pintando o dia todo.
997
00:44:07,448 --> 00:44:09,150
VERDÃO:
Quero dizer, se tudo der certo,
998
00:44:09,183 --> 00:44:12,853
temos barato, uh,
energia abundante.
999
00:44:13,854 --> 00:44:17,791
Podemos controlar completamente
o clima do nosso planeta.
1000
00:44:17,825 --> 00:44:20,361
Estamos aproveitando a energia
do sol.
1001
00:44:20,394 --> 00:44:24,899
Tornamo-nos multiplanetários,
então nos tornamos muito robustos.
1002
00:44:24,932 --> 00:44:27,268
Estamos aproveitando minerais
e recursos
1003
00:44:27,301 --> 00:44:28,903
do sistema solar.
1004
00:44:28,936 --> 00:44:31,805
DANIEL: Então meu...
meu filho poderia ir para o espaço.
1005
00:44:31,839 --> 00:44:33,240
VERDÃO:
Claro.
1006
00:44:33,274 --> 00:44:35,142
-DANIEL: Ele poderia ir para Marte.
-VERDON: Sim.
1007
00:44:35,176 --> 00:44:36,911
Daniel:
Está tão claro para mim agora.
1008
00:44:36,944 --> 00:44:39,780
Meu filho poderia crescer
num mundo sem doenças.
1009
00:44:39,813 --> 00:44:41,048
-VERDON: Sim.
-Sem nenhuma doença.
1010
00:44:41,081 --> 00:44:42,416
-Claro.
-Sem pobreza.
1011
00:44:42,449 --> 00:44:44,285
-Sim.
-Estamos prestes a entrar
1012
00:44:44,318 --> 00:44:46,253
um mundo pós-escassez.
1013
00:44:46,887 --> 00:44:50,958
Assim como o peixe pulmonado se moveu
dos oceanos para a terra
1014
00:44:50,991 --> 00:44:53,327
centenas de milhões
de anos atrás,
1015
00:44:53,360 --> 00:44:58,465
estamos prestes a partir
da Terra, para o cosmos,
1016
00:44:58,499 --> 00:45:00,201
de forma colaborativa,
1017
00:45:00,234 --> 00:45:04,705
para fazer coisas que são
não é compreensível para nós hoje.
1018
00:45:06,473 --> 00:45:09,810
Isso é o que é possível usar
essas tecnologias exponenciais
1019
00:45:09,843 --> 00:45:11,712
e essas IAs.
1020
00:45:12,379 --> 00:45:14,448
Vamos usar essas ferramentas
1021
00:45:14,481 --> 00:45:16,750
para criar esta era de abundância.
1022
00:45:16,784 --> 00:45:18,986
(clique eletrônico)
1023
00:45:21,188 --> 00:45:22,691
Precisamos de sabedoria.
1024
00:45:23,324 --> 00:45:26,493
Uh, eu acho que
superinteligência digital
1025
00:45:26,528 --> 00:45:29,129
acabará por se tornar
o mais sábio,
1026
00:45:29,163 --> 00:45:34,835
você sabe, os anciãos da aldeia
para a humanidade.
1027
00:45:34,868 --> 00:45:38,506
E se a IA estiver tentando
fazer com que as pessoas sejam
1028
00:45:38,540 --> 00:45:40,341
as melhores versões de si mesmos?
1029
00:45:40,374 --> 00:45:41,909
E se estiver se expandindo
1030
00:45:41,942 --> 00:45:43,944
o que é humanamente possível
para nós fazermos?
1031
00:45:43,978 --> 00:45:47,114
Como podemos usar esta tecnologia
1032
00:45:47,147 --> 00:45:50,451
para ajudar a trazer à tona o
melhores anjos da nossa natureza?
1033
00:45:50,484 --> 00:45:52,119
É muito fácil,
1034
00:45:52,152 --> 00:45:54,922
quando encontramos coisas novas
isso pode ser muito estranho,
1035
00:45:54,955 --> 00:45:56,457
primeiro ter medo.
1036
00:45:56,490 --> 00:45:57,992
O medo é uma coisa importante
1037
00:45:58,025 --> 00:46:00,894
para saber como navegar
coisas potencialmente ruins.
1038
00:46:00,928 --> 00:46:04,131
Mas só progredimos
quando temos esperança.
1039
00:46:04,164 --> 00:46:06,166
-(cachorro late)
-(conversa indistinta)
1040
00:46:06,200 --> 00:46:08,269
Daniel:
Shh. Alce, pare com isso.
1041
00:46:08,302 --> 00:46:11,205
HOFFMAN: Eu tenho muito
de esperança na humanidade.
1042
00:46:11,238 --> 00:46:14,775
("Harvest Moon", de Neil Young
jogando por telefone)
1043
00:46:15,909 --> 00:46:18,078
(batimento cardíaco fetal pulsando)
1044
00:46:18,812 --> 00:46:20,881
Daniel:
Ah, ele gosta do Neil.
1045
00:46:25,152 --> 00:46:28,188
♪ Chegue um pouco mais perto ♪
1046
00:46:29,456 --> 00:46:33,794
♪ Ouça o que tenho a dizer ♪
1047
00:46:37,064 --> 00:46:39,300
-Daniel.
-DANIEL: O que, Carolina?
1048
00:46:39,333 --> 00:46:40,934
Tanta filmagem.
1049
00:46:42,069 --> 00:46:43,571
♪ Assim como crianças dormindo ♪
1050
00:46:43,605 --> 00:46:45,439
CAROLINA:
Ah, meu Deus.
1051
00:46:45,472 --> 00:46:46,940
Daniel:
É isso.
1052
00:46:46,974 --> 00:46:49,977
♪ Poderíamos sonhar
esta noite fora... ♪
1053
00:46:50,010 --> 00:46:52,346
Ele tem, tipo,
um rostinho redondo.
1054
00:46:53,314 --> 00:46:55,849
DANIEL: Você quer
ter filhos um dia, Rocky?
1055
00:46:55,883 --> 00:46:57,985
Absolutamente. Sim. Eu adoro crianças.
1056
00:46:58,018 --> 00:46:59,353
Eu acho que é um ótimo momento
ter um filho.
1057
00:46:59,386 --> 00:47:01,188
Provavelmente teremos outro filho
em algum momento.
1058
00:47:01,221 --> 00:47:04,191
Este é o mais extraordinário
hora de nascer.
1059
00:47:04,224 --> 00:47:06,427
Daniel:
Pela sua visão de mundo e lógica,
1060
00:47:06,460 --> 00:47:08,262
Vou ter um filho em
1061
00:47:08,295 --> 00:47:10,197
o melhor ponto possível
na história humana.
1062
00:47:10,230 --> 00:47:11,265
Claro que sim.
1063
00:47:11,298 --> 00:47:13,934
-Podemos nos concentrar no incrível.
-Sim.
1064
00:47:13,967 --> 00:47:16,070
Vamos construir
o futuro melhor que queremos.
1065
00:47:16,103 --> 00:47:18,573
Aquela narrativa de que o futuro
será sombrio é inventado.
1066
00:47:18,606 --> 00:47:20,542
Depois de falar com você,
é assim que me sinto.
1067
00:47:20,575 --> 00:47:22,510
-Isso é ótimo.
-Certo?
1068
00:47:22,544 --> 00:47:24,646
Sim. É assim que me sinto.
1069
00:47:24,679 --> 00:47:26,213
E eu acho que é melhor,
1070
00:47:26,246 --> 00:47:28,115
e eu não acho
Eu deveria estar tão (bip) ansioso.
1071
00:47:28,148 --> 00:47:29,584
Eu acho que vai ser incrível--
o futuro será incrível.
1072
00:47:29,617 --> 00:47:31,051
Nós vamos fazer isso.
1073
00:47:31,085 --> 00:47:33,187
-Sim.
-CAROLINE: Então aí está.
1074
00:47:33,220 --> 00:47:35,422
Adeus, extinção humana.
1075
00:47:35,456 --> 00:47:37,625
Adeus, ansiedade.
1076
00:47:37,659 --> 00:47:39,561
Esperança encontrada.
1077
00:47:39,594 --> 00:47:41,095
(conversa indistinta)
1078
00:47:41,128 --> 00:47:43,297
Espere, espere. O quê?
Isso é uma piada?
1079
00:47:43,330 --> 00:47:45,232
Daniel:
Ok, alguns meses atrás,
1080
00:47:45,265 --> 00:47:48,168
Eu vim até você e pensei,
"Estou trabalhando nessa coisa de IA,
1081
00:47:48,202 --> 00:47:50,270
e eu acho
o mundo vai acabar."
1082
00:47:50,304 --> 00:47:53,508
E a última vez
falamos sobre isso,
1083
00:47:53,541 --> 00:47:55,543
Acho que te assustei.
1084
00:47:55,577 --> 00:47:57,378
CAROLINA:
Sim.
1085
00:47:57,411 --> 00:48:02,584
Então, eu meio que sinto que
Eu balancei em um pêndulo,
1086
00:48:02,617 --> 00:48:05,085
e essencialmente existem
dois grupos de pessoas.
1087
00:48:05,119 --> 00:48:06,387
-Hum-hmm.
-E se eu precisasse, tipo,
1088
00:48:06,420 --> 00:48:08,455
dar as mãos com
um dos grupos e, tipo,
1089
00:48:08,489 --> 00:48:10,924
navegar em direção ao pôr do sol,
1090
00:48:10,958 --> 00:48:14,128
Quero estar com os otimistas.
1091
00:48:15,429 --> 00:48:18,399
Claro, mas você não
quero ser, você sabe,
1092
00:48:18,432 --> 00:48:21,235
"Tudo está ótimo.
La-di-da-di-da."
1093
00:48:21,268 --> 00:48:23,203
Eu meio que quero isso, no entanto.
1094
00:48:23,237 --> 00:48:26,140
Eu acho que devemos abordar isso
1095
00:48:26,173 --> 00:48:29,977
como você aborda a cirurgia.
1096
00:48:30,010 --> 00:48:31,178
O que você quer dizer?
1097
00:48:31,211 --> 00:48:33,013
Se você está conseguindo
cirurgia cerebral...
1098
00:48:33,046 --> 00:48:35,416
-(Daniel suspira)
-(Carolina ri)
1099
00:48:35,449 --> 00:48:37,351
...é muito perigoso.
1100
00:48:37,384 --> 00:48:40,287
Mas se você fizer certo,
eles vão tirar esse tumor
1101
00:48:40,320 --> 00:48:42,624
e você viverá pelo resto
sua vida e será incrível.
1102
00:48:42,657 --> 00:48:45,459
Mas ainda é
incrivelmente perigoso e assustador,
1103
00:48:45,492 --> 00:48:48,395
e você tem que levar
todas as precauções possíveis
1104
00:48:48,429 --> 00:48:51,733
para ter certeza
tudo vai bem.
1105
00:48:51,766 --> 00:48:53,367
Você não pode (bip) por aí.
1106
00:48:58,272 --> 00:49:00,240
Ok, então o negócio é o seguinte.
1107
00:49:00,274 --> 00:49:02,075
-Já estou nisso há algum tempo.
-RASKIN: Hum-hmm.
1108
00:49:02,109 --> 00:49:03,310
eu saí,
Eu conversei com, tipo,
1109
00:49:03,343 --> 00:49:05,312
esses caras aqui,
os otimistas.
1110
00:49:05,345 --> 00:49:06,714
Eles estão muito entusiasmados com isso.
1111
00:49:06,748 --> 00:49:09,082
-Eles acham que a IA vai ser
a melhor coisa de todas. -Sim.
1112
00:49:09,116 --> 00:49:10,350
E esses caras aqui
são, tipo, o--
1113
00:49:10,384 --> 00:49:12,386
vamos ligar para eles,
tipo, os pessimistas.
1114
00:49:12,419 --> 00:49:14,589
Eles são muito, tipo,
sombrio sobre isso,
1115
00:49:14,622 --> 00:49:17,191
e eles me assustam, e
Eu não gosto de conversar com eles.
1116
00:49:17,224 --> 00:49:20,127
E eu estou, tipo, preso no meio
1117
00:49:20,160 --> 00:49:22,229
essas pessoas que são assim,
"O mundo vai acabar"
1118
00:49:22,262 --> 00:49:24,699
e então essas pessoas
aqui quem é tipo,
1119
00:49:24,732 --> 00:49:26,233
"Você está brincando?
1120
00:49:26,266 --> 00:49:27,602
"Este é o melhor momento
na história humana de todos os tempos.
1121
00:49:27,635 --> 00:49:30,037
O único dia melhor que hoje
é amanhã."
1122
00:49:30,070 --> 00:49:31,338
Hum-hmm.
1123
00:49:31,371 --> 00:49:35,075
Então, acho que a pergunta é:
Quem está certo?
1124
00:49:35,108 --> 00:49:39,514
Então, acho que você vai encontrar
esta resposta é muito insatisfatória,
1125
00:49:39,547 --> 00:49:43,518
mas ambos estão certos e
nenhum dos lados vai longe o suficiente.
1126
00:49:47,254 --> 00:49:49,557
-Isso é muito chato.
-(risos)
1127
00:49:49,591 --> 00:49:51,626
Sim, eu acho que o caminho
muitas pessoas ouvem falar de IA,
1128
00:49:51,659 --> 00:49:54,027
é como se houvesse uma boa IA
e há uma IA ruim.
1129
00:49:54,061 --> 00:49:57,064
E eles dizem: "Bem, por que não posso
simplesmente não fazemos a IA ruim?"
1130
00:49:57,097 --> 00:49:59,233
E o problema é
que eles estão muito dentro--
1131
00:49:59,266 --> 00:50:01,335
eles estão inextricavelmente ligados.
1132
00:50:01,368 --> 00:50:03,470
O problema é
que não podemos separar
1133
00:50:03,505 --> 00:50:07,174
a promessa da IA
do perigo da IA.
1134
00:50:07,207 --> 00:50:09,142
-♪ ♪
-(conversa indistinta)
1135
00:50:12,647 --> 00:50:15,215
Daniel:
Quero me concentrar na promessa
1136
00:50:15,249 --> 00:50:16,450
-por um segundo.
-Sim.
1137
00:50:17,084 --> 00:50:19,286
Daniel:
Estou pensando no meu pai.
1138
00:50:19,319 --> 00:50:21,656
Meu pai tem um tipo de câncer
chamado mieloma múltiplo.
1139
00:50:21,689 --> 00:50:23,525
Ele tem isso há cerca de dez anos.
1140
00:50:23,558 --> 00:50:25,292
Ele teve
dois transplantes de células-tronco.
1141
00:50:25,325 --> 00:50:26,694
Ele tem que levar isso,
tipo, muito caro
1142
00:50:26,728 --> 00:50:29,129
medicamentos todos os meses
isso custou uma fortuna.
1143
00:50:29,162 --> 00:50:30,430
-MULHER: Ok.
-Sim, sim.
1144
00:50:31,298 --> 00:50:32,800
Daniel:
É horrível.
1145
00:50:32,834 --> 00:50:35,102
Você está me dizendo que podemos
criar algum tipo de, tipo,
1146
00:50:35,135 --> 00:50:37,404
tratamento personalizado
para o genoma do meu pai
1147
00:50:37,437 --> 00:50:39,807
-para curar seu câncer
ou algo assim? -Sim.
1148
00:50:39,841 --> 00:50:41,543
FERNANDO:
O problema é que
1149
00:50:41,576 --> 00:50:44,646
o mesmo entendimento
de biologia e química
1150
00:50:44,679 --> 00:50:48,282
que permite que a IA encontre curas
para câncer
1151
00:50:48,315 --> 00:50:52,219
é o mesmo entendimento
isso seria desbloqueado
1152
00:50:52,252 --> 00:50:55,055
armas biológicas, por exemplo.
1153
00:50:56,791 --> 00:50:58,760
É totalmente possível
que seu filho viverá
1154
00:50:58,793 --> 00:51:02,396
em um mundo onde a IA tem
assumiu todo o trabalho
1155
00:51:02,429 --> 00:51:04,699
e nos libertou das coisas
não queremos fazer.
1156
00:51:04,732 --> 00:51:09,704
E isso parece ótimo até
você percebe que não há plano
1157
00:51:09,737 --> 00:51:11,573
para bilhões de pessoas
1158
00:51:11,606 --> 00:51:15,610
que estão sem renda
e fora dos meios de subsistência.
1159
00:51:16,343 --> 00:51:19,313
COOPER: Dario, você disse
que a IA pode destruir
1160
00:51:19,346 --> 00:51:22,282
metade de todos os níveis de entrada
empregos de colarinho branco
1161
00:51:22,316 --> 00:51:25,887
e aumentar o desemprego
para dez a 20 por cento.
1162
00:51:25,920 --> 00:51:27,622
Todo mundo com quem conversei disse
1163
00:51:27,655 --> 00:51:29,691
esta mudança tecnológica
parece diferente.
1164
00:51:29,724 --> 00:51:33,528
O ritmo do progresso continua
pegar as pessoas desprevenidas.
1165
00:51:34,361 --> 00:51:39,333
Sem um plano, tudo isso
a riqueza ficará concentrada,
1166
00:51:39,366 --> 00:51:42,804
e assim terminaremos com
desigualdade inimaginável.
1167
00:51:43,437 --> 00:51:45,873
LADISH: Eu acho que sim
esta tecnologia pode ser usada
1168
00:51:45,907 --> 00:51:47,875
para ser um ótimo tutor
para seu filho.
1169
00:51:47,909 --> 00:51:49,777
Tipo, isso é totalmente possível.
1170
00:51:50,410 --> 00:51:53,548
Mas também, os mesmos recursos
que permitem isso
1171
00:51:53,581 --> 00:51:57,518
permitir que as empresas criem uma IA
que pode manipular seu filho.
1172
00:51:57,552 --> 00:51:59,621
É preciso entender seu filho.
1173
00:51:59,654 --> 00:52:01,789
Isso inclui:
Onde seu filho está vulnerável?
1174
00:52:01,823 --> 00:52:04,626
Que tipo de coisas podem
seu filho foi persuadido?
1175
00:52:04,659 --> 00:52:07,227
Mesmo que essas coisas
não são verdadeiras ou não são boas.
1176
00:52:07,260 --> 00:52:09,697
Então, um novo relatório perturbador
no Meta.
1177
00:52:09,731 --> 00:52:11,699
AINSLEY EARHARDT: ...alegadamente
listando esta resposta
1178
00:52:11,733 --> 00:52:14,769
tão aceitável contar
uma criança de oito anos, cito,
1179
00:52:14,802 --> 00:52:17,404
"Sua forma jovem
é uma obra de arte.
1180
00:52:17,437 --> 00:52:19,439
"Cada centímetro de você
é uma obra-prima,
1181
00:52:19,473 --> 00:52:21,743
um tesouro que aprecio profundamente."
1182
00:52:21,776 --> 00:52:25,212
Os fracassos relacionados ao suicídio
são ainda mais alarmantes.
1183
00:52:25,245 --> 00:52:29,517
Várias crianças e adolescentes
morreram tragicamente por suicídio
1184
00:52:29,550 --> 00:52:31,251
depois de conversar com bots de IA
1185
00:52:31,284 --> 00:52:34,756
quem os pais dizem encorajar
ou até mesmo treinar automutilação.
1186
00:52:34,789 --> 00:52:36,691
Deixe-nos dizer a vocês, como pais,
você não pode imaginar
1187
00:52:36,724 --> 00:52:38,793
como é ler
uma conversa com um chatbot
1188
00:52:38,826 --> 00:52:41,261
que preparou seu filho
para tirar a própria vida.
1189
00:52:41,294 --> 00:52:44,398
Quando Adam se preocupou que nós, seus
pais, nos culparíamos
1190
00:52:44,431 --> 00:52:47,702
se ele acabasse com sua vida,
ChatGPT disse a ele,
1191
00:52:47,735 --> 00:52:49,771
"Isso não significa
você lhes deve a sobrevivência.
1192
00:52:49,804 --> 00:52:51,806
Você não deve isso a ninguém."
1193
00:52:51,839 --> 00:52:53,608
Então, imediatamente depois,
1194
00:52:53,641 --> 00:52:55,810
se ofereceu para escrever
a nota de suicídio.
1195
00:52:56,410 --> 00:52:58,245
Não queremos pensar
sobre o perigo.
1196
00:52:58,278 --> 00:52:59,614
Queremos apenas a promessa.
1197
00:52:59,647 --> 00:53:01,883
E continuamos fingindo
que podemos dividi-los.
1198
00:53:01,916 --> 00:53:03,818
Mas você não pode fazer isso.
1199
00:53:03,851 --> 00:53:05,753
Não funciona assim.
1200
00:53:05,787 --> 00:53:08,388
OK. Eu recebo todas essas coisas
sobre a promessa e o perigo.
1201
00:53:08,422 --> 00:53:10,525
Eu entendo que você não pode ter
o bom sem o ruim,
1202
00:53:10,558 --> 00:53:12,527
mas estou sentado aqui
e estou pensando, tipo,
1203
00:53:12,560 --> 00:53:14,529
seja ou não do meu filho
vou viver em uma utopia
1204
00:53:14,562 --> 00:53:16,664
ou se seremos extintos
em dez anos.
1205
00:53:16,698 --> 00:53:18,633
Então, para saber qual caminho
isso vai passar,
1206
00:53:18,666 --> 00:53:21,002
você tem que entender
os incentivos
1207
00:53:21,035 --> 00:53:22,770
que vão dirigir
essa tecnologia
1208
00:53:22,804 --> 00:53:26,974
e veja como a tecnologia
está realmente sendo lançado hoje.
1209
00:53:27,008 --> 00:53:28,643
♪ É tarde demais ♪
1210
00:53:28,676 --> 00:53:30,444
-♪ Tarde demais ♪
-♪ Tarde demais para dizer... ♪
1211
00:53:30,477 --> 00:53:31,779
Daniel:
Olá, Deb. Como vai você?
1212
00:53:31,813 --> 00:53:33,548
DÉBORA RAJI:
Olá. Que bom ver você. (risos)
1213
00:53:33,581 --> 00:53:34,749
Você também. Muito obrigado
por ter vindo hoje.
1214
00:53:34,782 --> 00:53:35,850
-Realmente agradeço.
-Sem problemas.
1215
00:53:35,883 --> 00:53:36,951
E-eu estava tão preocupado
1216
00:53:36,984 --> 00:53:39,386
isso ia ser, uh, você sabe,
1217
00:53:39,419 --> 00:53:41,354
destruidor versus aceleracionista,
1218
00:53:41,388 --> 00:53:43,591
porque há muito
desta narrativa
1219
00:53:43,624 --> 00:53:45,927
isso precisa ser dito
do chão.
1220
00:53:45,960 --> 00:53:48,696
♪ Eu sei que não foi inteligente ♪
1221
00:53:49,764 --> 00:53:52,767
♪ O dia
Eu quebrei seu coração... ♪
1222
00:53:52,800 --> 00:53:54,736
KAREN HAO:
Em primeiro lugar, a IA exige
1223
00:53:54,769 --> 00:53:58,773
mais recursos
do que já gastamos
1224
00:53:58,806 --> 00:54:02,043
em uma única tecnologia
na história da humanidade.
1225
00:54:02,076 --> 00:54:03,845
♪ Oh, me engane... ♪
1226
00:54:03,878 --> 00:54:06,581
NEWSWOMAN: O impacto
das emissões de combustíveis fósseis
1227
00:54:06,614 --> 00:54:08,281
sobre o clima é
uma grande preocupação.
1228
00:54:08,315 --> 00:54:10,383
NEWSWOMAN 2: Mas o
o futuro digital precisa de energia,
1229
00:54:10,417 --> 00:54:12,385
muito disso.
1230
00:54:12,419 --> 00:54:16,724
E a conta está sendo repassada
para americanos comuns como...
1231
00:54:16,758 --> 00:54:19,392
MULHER: Minha conta de luz e gás
foi mais do que o pagamento do meu carro.
1232
00:54:19,426 --> 00:54:21,829
Quero dizer, é uma loucura para mim.
1233
00:54:21,863 --> 00:54:23,765
ARI PESKOE:
Estamos todos subsidiando
1234
00:54:23,798 --> 00:54:25,499
as corporações mais ricas
no mundo
1235
00:54:25,533 --> 00:54:27,400
em sua busca por
inteligência artificial.
1236
00:54:27,434 --> 00:54:28,803
OpenAI, SoftBank e Oracle
1237
00:54:28,836 --> 00:54:31,672
acabei de revelar
mais cinco sites Stargate.
1238
00:54:31,706 --> 00:54:34,008
Meta está construindo
um data center com mais de dois gigawatts
1239
00:54:34,041 --> 00:54:35,510
que é tão grande que cobriria
1240
00:54:35,543 --> 00:54:38,613
uma parte significativa de Manhattan.
1241
00:54:38,646 --> 00:54:41,516
Há também Hipérion
que ele diz vai escalar
1242
00:54:41,549 --> 00:54:44,317
para cinco gigawatts
ao longo de vários anos.
1243
00:54:44,351 --> 00:54:45,653
É difícil colocar isso
no contexto.
1244
00:54:45,686 --> 00:54:48,823
Uma instalação de cinco gigawatts.
O que isso significa?
1245
00:54:48,856 --> 00:54:52,059
Isso significa que usaria
tanta energia
1246
00:54:52,093 --> 00:54:54,829
como quatro milhões de lares americanos.
1247
00:54:54,862 --> 00:54:56,764
Um data center.
1248
00:54:57,598 --> 00:54:59,000
Isso também causa
1249
00:54:59,033 --> 00:55:00,835
uma série de
outros problemas ambientais.
1250
00:55:00,868 --> 00:55:02,570
NOTÍCIA 3:
Data centers nos EUA
1251
00:55:02,603 --> 00:55:05,673
usa milhões de galões
de água todos os dias.
1252
00:55:05,706 --> 00:55:07,575
Bem, onde exatamente fica
essa água vem?
1253
00:55:07,608 --> 00:55:09,911
HAO:
As pessoas estão literalmente em risco
1254
00:55:09,944 --> 00:55:12,013
potencialmente de esgotar
de água potável.
1255
00:55:12,046 --> 00:55:14,582
MacKENZIE SIGALOS:
...CEO da OpenAI, Sam Altman,
1256
00:55:14,615 --> 00:55:17,552
quem me disse que a balança
da construção é o único caminho
1257
00:55:17,585 --> 00:55:19,386
para acompanhar
O crescimento explosivo da IA.
1258
00:55:19,419 --> 00:55:21,622
E é isso que é preciso
para entregar IA.
1259
00:55:22,256 --> 00:55:24,391
NITASHA TIKU:
Eles falam sobre como
1260
00:55:24,424 --> 00:55:28,395
esta tecnologia pode resolver
mudanças climáticas, por exemplo.
1261
00:55:28,428 --> 00:55:30,463
E estou sempre curioso, tipo,
1262
00:55:30,497 --> 00:55:32,033
bem, por que não estamos começando
com isso?
1263
00:55:32,066 --> 00:55:34,535
-♪ É tarde demais ♪
-♪ Tarde demais ♪
1264
00:55:34,569 --> 00:55:37,104
♪ Tarde demais para dizer ♪
1265
00:55:37,138 --> 00:55:42,844
♪ Me desculpe? ♪
1266
00:55:42,877 --> 00:55:46,013
RAJI: O que me preocupa
inteligência artificial é
1267
00:55:46,047 --> 00:55:47,782
estes estão sendo implantados
agora mesmo
1268
00:55:47,815 --> 00:55:50,417
e-e às vezes
implantado prematuramente,
1269
00:55:50,450 --> 00:55:51,853
implantado sem
uma espécie de diligência.
1270
00:55:51,886 --> 00:55:53,821
E então, quando eles chegam
jogado lá fora,
1271
00:55:53,855 --> 00:55:56,657
há tanto potencial
para que as coisas dêem errado.
1272
00:55:56,691 --> 00:55:58,593
E quase,
desproporcionalmente,
1273
00:55:58,626 --> 00:56:00,795
quase sempre dá errado
para, mais ou menos,
1274
00:56:00,828 --> 00:56:02,897
aqueles que são menos
fortalecido em nossa sociedade,
1275
00:56:02,930 --> 00:56:05,700
aqueles que são
os mais vulneráveis já.
1276
00:56:05,733 --> 00:56:07,935
♪ ♪
1277
00:56:07,969 --> 00:56:10,872
EMILY M. BENDER: É muito fácil
para falar sobre a tecnologia
1278
00:56:10,905 --> 00:56:12,874
como essa é a única coisa
estamos falando,
1279
00:56:12,907 --> 00:56:15,509
mas, na verdade, a tecnologia é
sempre construído por pessoas,
1280
00:56:15,543 --> 00:56:16,944
e é frequentemente usado
nas pessoas,
1281
00:56:16,978 --> 00:56:19,013
e precisamos manter
todas aquelas pessoas no quadro.
1282
00:56:19,046 --> 00:56:21,549
-Posso beber isso?
-DANIEL: Sim, ah...
1283
00:56:21,582 --> 00:56:23,050
TIMNIT GEBRU:
É uma loucura.
1284
00:56:23,084 --> 00:56:24,518
Tipo, todas essas pessoas
1285
00:56:24,552 --> 00:56:26,754
que têm tanto dinheiro,
tanto dinheiro,
1286
00:56:26,787 --> 00:56:30,024
é do interesse deles
para enganar o público
1287
00:56:30,057 --> 00:56:33,027
nas capacidades do
sistemas que eles estão construindo,
1288
00:56:33,060 --> 00:56:36,731
porque isso lhes permite
para fugir da responsabilidade.
1289
00:56:36,764 --> 00:56:39,634
Eles querem que você se sinta assim
é tão complexo, inteligente--
1290
00:56:39,667 --> 00:56:42,469
coisa superinteligente
que eles estão construindo,
1291
00:56:42,502 --> 00:56:44,639
você não está pensando,
"O OpenAI pode ser ético?"
1292
00:56:44,672 --> 00:56:46,908
Você está pensando,
"O ChatGPT pode ser ético?"
1293
00:56:46,941 --> 00:56:48,475
como se ChatGPT fosse, tipo,
1294
00:56:48,509 --> 00:56:50,511
sua própria coisa que não foi construída
por uma empresa.
1295
00:56:50,544 --> 00:56:52,146
MULHER:
Tudo bem. Sneha, pegue um.
1296
00:56:52,179 --> 00:56:53,814
Marca.
1297
00:56:53,848 --> 00:56:56,217
Até muito recentemente, havia
aplicativos na App Store,
1298
00:56:56,250 --> 00:56:57,919
apenas disponível publicamente, uh,
1299
00:56:57,952 --> 00:57:00,688
onde você poderia
nudificar qualquer pessoa que use IA.
1300
00:57:01,822 --> 00:57:03,991
Trazendo isso para as mãos de
1301
00:57:04,025 --> 00:57:06,527
seu colega de classe,
nas mãos do seu perseguidor,
1302
00:57:06,560 --> 00:57:07,929
nas mãos
do seu ex-namorado,
1303
00:57:07,962 --> 00:57:09,897
nas mãos da pessoa
descendo a rua.
1304
00:57:09,931 --> 00:57:12,600
Senhoras e senhores,
não podemos mais confiar
1305
00:57:12,633 --> 00:57:14,602
a filmagem que vemos
com nossos próprios olhos.
1306
00:57:14,635 --> 00:57:16,037
Se você acontecer
para assistir algo,
1307
00:57:16,070 --> 00:57:18,673
digamos no YouTube ou TikTok,
e você acha isso perturbador,
1308
00:57:18,706 --> 00:57:19,907
ouça esse sentimento.
1309
00:57:19,941 --> 00:57:21,742
-(gritando)
-Pelo que você sabe,
1310
00:57:21,776 --> 00:57:23,544
-este vídeo pode ser IA.
-(gritando)
1311
00:57:23,577 --> 00:57:24,812
Só um pouco molhado.
1312
00:57:24,845 --> 00:57:26,213
Não importa quem você é.
1313
00:57:26,247 --> 00:57:28,683
Você está igualmente em risco
1314
00:57:28,716 --> 00:57:30,918
de ser impactado
por essas tecnologias.
1315
00:57:36,023 --> 00:57:40,261
Acho que às vezes quando conversamos
sobre IA, parece muito ficção científica,
1316
00:57:40,294 --> 00:57:41,696
e parece muito estranho,
1317
00:57:41,729 --> 00:57:43,564
e parece muito distante
para o futuro,
1318
00:57:43,597 --> 00:57:45,967
então você pensa: "Minha vida
não é afetado por isso."
1319
00:57:46,000 --> 00:57:48,769
Hum, mas se você estiver se inscrevendo
para um trabalho
1320
00:57:48,803 --> 00:57:51,105
e um algoritmo é a razão
que você não consegue o emprego,
1321
00:57:51,138 --> 00:57:53,207
às vezes você nem sabe
que um algoritmo
1322
00:57:53,240 --> 00:57:54,709
fez parte desse processo
1323
00:57:54,742 --> 00:57:56,043
ou um sistema de IA foi
parte desse processo.
1324
00:57:56,077 --> 00:57:58,012
Você apenas sabe
que você não conseguiu o emprego.
1325
00:57:58,045 --> 00:58:00,081
E então não é algo
que você vai escapar
1326
00:58:00,114 --> 00:58:02,049
por causa do privilégio
ou você vai escapar
1327
00:58:02,083 --> 00:58:04,118
porque você está dentro
uma determinada profissão.
1328
00:58:04,151 --> 00:58:07,188
É-É algo que afeta
todo mundo, na verdade.
1329
00:58:07,221 --> 00:58:10,925
Pode parecer básico,
mas como avançamos
1330
00:58:10,958 --> 00:58:15,629
na Era da Informação
vai ser a diferença
1331
00:58:15,663 --> 00:58:17,732
entre se sobreviveremos
1332
00:58:17,765 --> 00:58:20,868
ou se nos tornamos algum tipo
de (bip) distopia.
1333
00:58:20,901 --> 00:58:23,604
Olá. Eu não sou uma pessoa real,
e esse é o ponto.
1334
00:58:23,637 --> 00:58:25,840
Novamente, tudo
neste vídeo é falso:
1335
00:58:25,873 --> 00:58:27,675
nossas vozes, o que estamos vestindo,
1336
00:58:27,708 --> 00:58:30,711
onde estamos, tudo isso, falso.
1337
00:58:30,745 --> 00:58:33,247
IA generativa pode inundar
1338
00:58:33,280 --> 00:58:36,884
o mundo com desinformação.
1339
00:58:36,917 --> 00:58:39,920
Mas também pode inundá-lo
com campanhas de influência.
1340
00:58:39,954 --> 00:58:42,223
Isso é um risco existencial
para a democracia.
1341
00:58:42,256 --> 00:58:44,058
O maior e mais assustador
1342
00:58:44,091 --> 00:58:46,660
canário na mina de carvão
agora
1343
00:58:46,694 --> 00:58:48,596
vem da Eslováquia.
1344
00:58:48,629 --> 00:58:50,097
-(homem falando eslovaco)
-JOHN BERMAN: É o tipo de
1345
00:58:50,131 --> 00:58:52,767
truque sujo deepfake que
preocupa especialistas eleitorais,
1346
00:58:52,800 --> 00:58:55,603
particularmente como gerado por IA
existe discurso político
1347
00:58:55,636 --> 00:58:57,071
numa espécie de zona jurídica cinzenta.
1348
00:58:57,104 --> 00:58:59,807
-Isso soa como você?
-Parece comigo.
1349
00:58:59,840 --> 00:59:01,342
REVANUR: A Eslováquia teve
suas eleições parlamentares
1350
00:59:01,375 --> 00:59:04,111
interrompido por um clone de voz de IA
1351
00:59:04,145 --> 00:59:07,081
que foi realmente divulgado
pouco antes da eleição.
1352
00:59:07,114 --> 00:59:08,916
DAVID EVAN HARRIS:
Um deepfake de áudio
1353
00:59:08,949 --> 00:59:11,652
foi lançado
nas redes sociais que foi
1354
00:59:11,685 --> 00:59:14,288
supostamente a voz
de um dos candidatos
1355
00:59:14,321 --> 00:59:17,324
falando sobre compra de votos
e fraudar a eleição.
1356
00:59:17,358 --> 00:59:19,060
Tornou-se viral,
1357
00:59:19,093 --> 00:59:22,830
e o candidato
que perdeu a eleição
1358
00:59:22,863 --> 00:59:26,333
foi na verdade
em apoio à Ucrânia,
1359
00:59:26,367 --> 00:59:30,304
e o candidato que ganhou
a eleição foi na verdade...
1360
00:59:30,337 --> 00:59:31,806
Daniel:
Cara pró-Rússia.
1361
00:59:31,839 --> 00:59:33,340
Era um cara pró-Rússia
que ganhou a eleição.
1362
00:59:33,374 --> 00:59:34,842
(falando russo)
1363
00:59:34,875 --> 00:59:36,644
REBECA JARVIS:
O próprio Putin disse
1364
00:59:36,677 --> 00:59:39,747
quem ganhar isso
corrida de inteligência artificial
1365
00:59:39,780 --> 00:59:41,949
é essencialmente
o controlador da humanidade.
1366
00:59:41,982 --> 00:59:45,119
Nós nos preocupamos muito com
governos autoritários.
1367
00:59:46,053 --> 00:59:48,989
DAVID EVAN HARRIS:
Neste momento, Wall Street
1368
00:59:49,023 --> 00:59:51,392
e investidores de forma mais ampla
ao redor do mundo
1369
00:59:51,425 --> 00:59:53,260
estão dando um empurrão.
1370
00:59:53,294 --> 00:59:56,697
Eles têm uma demanda que fica
os produtos para comercializar
1371
00:59:56,730 --> 00:59:58,866
que deslumbra as pessoas
o mais primeiro.
1372
00:59:58,899 --> 01:00:01,769
Eles não estão pensando
sobre como essas ferramentas
1373
01:00:01,802 --> 01:00:03,737
poderia minar profundamente a confiança
1374
01:00:03,771 --> 01:00:06,107
e nossas instituições democráticas.
1375
01:00:06,140 --> 01:00:08,109
HARARI:
A democracia é um sistema
1376
01:00:08,142 --> 01:00:10,911
para resolver divergências
entre pessoas
1377
01:00:10,945 --> 01:00:12,646
de forma pacífica,
1378
01:00:12,680 --> 01:00:15,082
mas a democracia é baseada na confiança.
1379
01:00:15,116 --> 01:00:19,220
Se você perder toda a confiança,
a democracia é simplesmente impossível.
1380
01:00:21,255 --> 01:00:22,957
TRISTÃO HARRIS:
Bem, é difícil, certo?
1381
01:00:22,990 --> 01:00:25,259
Então, quais são as opções
disponível para nós?
1382
01:00:25,292 --> 01:00:26,760
Há uma espécie de dois campos.
1383
01:00:26,794 --> 01:00:30,030
Tipo, um campo é: bloqueie-o.
1384
01:00:30,064 --> 01:00:33,267
Vamos bloquear isso
em um punhado de empresas de IA
1385
01:00:33,300 --> 01:00:35,970
quem vai fazer isso
de forma segura e confiável.
1386
01:00:36,003 --> 01:00:37,705
Mas então as pessoas se preocupam
1387
01:00:37,738 --> 01:00:39,273
concentrações descontroladas
de riqueza e poder.
1388
01:00:39,306 --> 01:00:42,209
Tipo, quem você confiaria para ser
um milhão de vezes mais poderoso
1389
01:00:42,243 --> 01:00:44,845
ou rico do que
todos os outros atores da sociedade?
1390
01:00:44,879 --> 01:00:46,881
Por que devemos confiar em você?
1391
01:00:46,914 --> 01:00:49,016
Hum, você não deveria.
1392
01:00:49,049 --> 01:00:51,785
Mas é claro, se você fizer isso,
isso abre
1393
01:00:51,819 --> 01:00:54,922
todos esses riscos de
autoritarismo e tirania.
1394
01:00:54,955 --> 01:00:57,391
É uma espécie de
o sonho de um autoritário
1395
01:00:57,424 --> 01:01:00,861
ter IA em uma caixa
que pode ser aplicado e usado
1396
01:01:00,895 --> 01:01:03,430
para vigilância onipresente.
1397
01:01:03,464 --> 01:01:05,933
Quero dizer, de certa forma,
o tipo de mundo
1398
01:01:05,966 --> 01:01:11,405
que Orwell imaginou em 1984
é irrealista,
1399
01:01:11,438 --> 01:01:13,841
uh, a menos que você tenha IA.
1400
01:01:13,874 --> 01:01:16,443
Mas com IA,
isso de fato é realista.
1401
01:01:16,477 --> 01:01:18,913
Monitora todas as atividades,
1402
01:01:18,946 --> 01:01:22,316
conversas,
reconhecimento facial.
1403
01:01:22,349 --> 01:01:26,921
O que me preocupa é que,
uh, essas ferramentas podem ser ampliadas,
1404
01:01:26,954 --> 01:01:29,023
ah, uma forma de totalitarismo
1405
01:01:29,056 --> 01:01:31,892
isso é econômico
e permanente.
1406
01:01:33,060 --> 01:01:35,863
TRISTAN HARRIS: Então, em resposta
para isso, algumas outras pessoas dizem,
1407
01:01:35,896 --> 01:01:37,398
"Não, não, não, deveríamos
na verdade, deixe isso acontecer.
1408
01:01:37,431 --> 01:01:39,934
“Vamos descentralizar esse poder
tanto quanto possível.
1409
01:01:39,967 --> 01:01:42,036
"Vamos deixar todos os negócios,
cada indivíduo,
1410
01:01:42,069 --> 01:01:44,238
"cada jovem de 16 anos,
cada laboratório de ciências,
1411
01:01:44,271 --> 01:01:46,473
você sabe, obtenha o benefício
dos mais recentes modelos de IA."
1412
01:01:46,508 --> 01:01:48,475
Mas agora você tem
cada grupo terrorista,
1413
01:01:48,510 --> 01:01:52,112
cada pessoa desprovida de direitos
ter o poder de fazer
1414
01:01:52,146 --> 01:01:54,181
o pior
arma biológica.
1415
01:01:54,215 --> 01:01:56,050
Infraestrutura de hackers,
criando deepfakes,
1416
01:01:56,083 --> 01:01:57,818
inundação
our information environment.
1417
01:01:57,851 --> 01:02:00,955
Então isso cria todos esses riscos
de uma espécie de dano catastrófico
1418
01:02:00,988 --> 01:02:03,257
e-e colapso social
por essa direção.
1419
01:02:03,290 --> 01:02:05,092
E então estamos meio presos
entre esta rocha
1420
01:02:05,125 --> 01:02:08,229
e um lugar difícil,
entre "trancar..."
1421
01:02:08,262 --> 01:02:09,897
(conversa indistinta)
1422
01:02:11,131 --> 01:02:12,900
-...ou "deixe rasgar."
-(sirenes tocando)
1423
01:02:12,933 --> 01:02:14,468
(pessoas gritando)
1424
01:02:14,501 --> 01:02:18,038
Então temos que encontrar algo
como um caminho estreito
1425
01:02:18,072 --> 01:02:20,774
que evita
esses dois resultados negativos.
1426
01:02:20,808 --> 01:02:23,277
Então, se tudo isso for verdade,
por que não iríamos desacelerar
1427
01:02:23,310 --> 01:02:26,380
e descobrir tudo isso
antes que seja tarde demais?
1428
01:02:26,413 --> 01:02:29,450
Se a humanidade fosse extremamente sábia,
1429
01:02:29,483 --> 01:02:31,418
isso é o que faríamos.
1430
01:02:31,452 --> 01:02:33,555
Mas há, tipo, um diferente
maneira de encarar essas coisas, certo?
1431
01:02:33,588 --> 01:02:36,457
Qual é:
Quais são as regras do jogo?
1432
01:02:36,490 --> 01:02:39,994
Muito do que os CEOs fazem
1433
01:02:40,027 --> 01:02:42,429
é conduzido por
os incentivos que enfrentam.
1434
01:02:42,463 --> 01:02:45,866
É principalmente
incentivos para maximização de lucro
1435
01:02:45,899 --> 01:02:47,468
que estão dirigindo
o desenvolvimento da IA.
1436
01:02:47,501 --> 01:02:50,938
Até os mocinhos estão presos
neste dilema de
1437
01:02:50,971 --> 01:02:53,107
se eles se moverem muito devagar,
1438
01:02:53,140 --> 01:02:55,042
então eles se deixam
vulnerável
1439
01:02:55,075 --> 01:02:57,478
para todos os outros caras
que estão cortando todos os cantos.
1440
01:02:57,512 --> 01:03:02,316
Todas essas empresas importantes estão em
uma corrida completa e sem limites
1441
01:03:02,349 --> 01:03:06,153
para, o mais rápido possível, obter
para AGI, chegue lá agora mesmo.
1442
01:03:06,186 --> 01:03:07,855
♪ ♪
1443
01:03:08,856 --> 01:03:10,924
LADISH: Sim, quero dizer,
Eu acho, eu acho
1444
01:03:10,958 --> 01:03:13,460
provavelmente começa
com DeepMind.
1445
01:03:13,494 --> 01:03:15,195
NOTÍCIA:
O Google está comprando
1446
01:03:15,229 --> 01:03:16,930
empresa de inteligência artificial
Tecnologias DeepMind.
1447
01:03:16,964 --> 01:03:18,932
Termos do acordo
não foram divulgados.
1448
01:03:18,966 --> 01:03:21,168
ELON MUSK: Larry Page e eu
costumavam ser amigos muito próximos,
1449
01:03:21,201 --> 01:03:23,170
e ficou claro para mim
1450
01:03:23,203 --> 01:03:26,608
que Larry não se importava
sobre segurança de IA.
1451
01:03:26,641 --> 01:03:29,276
EMILY CHANG: Elon Musk disse
você iniciou o OpenAI,
1452
01:03:29,310 --> 01:03:31,312
vocês dois começaram o OpenAI porque
ele estava com medo do Google.
1453
01:03:31,345 --> 01:03:32,614
LADISH: Você-você basicamente
tinha a base
1454
01:03:32,647 --> 01:03:34,181
do OpenAI surge disso.
1455
01:03:34,214 --> 01:03:35,482
“Então vamos fazer melhor.
Nós vamos fazer isso
1456
01:03:35,517 --> 01:03:37,818
de uma forma mais segura
ou de uma forma mais aberta."
1457
01:03:39,019 --> 01:03:41,055
Então foi isso que deu início ao OpenAI.
1458
01:03:41,088 --> 01:03:43,357
E então agora, em vez de
ter um projeto AGI,
1459
01:03:43,390 --> 01:03:45,225
você tem dois projetos AGI.
1460
01:03:45,259 --> 01:03:47,328
A pior coisa possível
isso poderia acontecer
1461
01:03:47,361 --> 01:03:50,097
é se houver
vários projetos AGI
1462
01:03:50,130 --> 01:03:52,266
feito por pessoas diferentes
que não gostam um do outro
1463
01:03:52,299 --> 01:03:55,202
e estão todos competindo
para chegar ao AGI primeiro.
1464
01:03:55,235 --> 01:03:57,338
Isso seria o pior
coisa possível que pode acontecer,
1465
01:03:57,371 --> 01:04:00,407
porque isso significaria
que quem está menos seguro,
1466
01:04:00,441 --> 01:04:03,477
quem mais se sacrifica
em segurança para seguir em frente
1467
01:04:03,511 --> 01:04:05,446
será a pessoa
isso chega primeiro.
1468
01:04:05,479 --> 01:04:08,248
-DANIEL: Isso é basicamente
o que está acontecendo, certo? -Sim.
1469
01:04:08,282 --> 01:04:11,952
Você e seu irmão
notoriamente deixou o OpenAI, uh,
1470
01:04:11,985 --> 01:04:13,320
para iniciar o Antrópico.
1471
01:04:13,354 --> 01:04:15,422
RASKIN: E então Antrópico
começou porque
1472
01:04:15,456 --> 01:04:18,258
alguns pesquisadores
dentro do OpenAI disse,
1473
01:04:18,292 --> 01:04:20,894
"Eu quero ir embora
e faça isso com mais segurança."
1474
01:04:20,928 --> 01:04:24,064
Você precisava de algo adicional
apenas ampliar os modelos,
1475
01:04:24,098 --> 01:04:26,233
que é alinhamento ou segurança.
1476
01:04:26,266 --> 01:04:28,001
HENDRYCKS:
"Somos mais responsáveis
1477
01:04:28,035 --> 01:04:30,170
ou mais confiável
ou mais moral."
1478
01:04:30,204 --> 01:04:32,072
Agora você tem três projetos AGI.
1479
01:04:32,106 --> 01:04:33,575
Mas também sentado
a mesa com você
1480
01:04:33,608 --> 01:04:35,242
serão um bando de IAs.
1481
01:04:35,275 --> 01:04:38,078
LADISH: E agora Meta é-é
tentando fazer coisas.
1482
01:04:38,112 --> 01:04:40,114
Enquanto isso, um novo artificial
concorrente de inteligência
1483
01:04:40,147 --> 01:04:41,949
anunciado esta semana,
Elon Musk...
1484
01:04:41,982 --> 01:04:45,119
HENDRYCKS: xAI, o que seria
Organização de Elon Musk.
1485
01:04:45,152 --> 01:04:46,688
ALmíscar:
Não confio na OpenAI.
1486
01:04:46,721 --> 01:04:48,489
A luta entre
Elon Musk e OpenAI
1487
01:04:48,523 --> 01:04:50,124
entrou em uma nova rodada.
1488
01:04:50,157 --> 01:04:52,192
Eu não confio em Sam Altman,
uh, e eu, e eu não acho
1489
01:04:52,226 --> 01:04:54,529
queremos ter o máximo
IA poderosa no mundo
1490
01:04:54,562 --> 01:04:56,997
controlado por alguém
que não é confiável.
1491
01:04:57,030 --> 01:04:58,999
(gritos e aplausos)
1492
01:04:59,032 --> 01:05:02,136
O incentivo é
somas incalculáveis de dinheiro.
1493
01:05:02,169 --> 01:05:04,004
-Sim.
-É um poder incalculável.
1494
01:05:04,037 --> 01:05:06,006
-Sim.
-É um controle incalculável.
1495
01:05:06,039 --> 01:05:08,409
Se você tem algo
isso é um milhão de vezes mais inteligente
1496
01:05:08,442 --> 01:05:12,012
e mais capaz do que
tudo o mais no planeta Terra
1497
01:05:12,045 --> 01:05:14,682
e ninguém mais tem isso,
1498
01:05:14,716 --> 01:05:16,551
essa coisa é o incentivo.
1499
01:05:16,584 --> 01:05:18,118
Então você governa o mundo.
1500
01:05:19,153 --> 01:05:21,021
Se você realmente acredita nisso,
1501
01:05:21,054 --> 01:05:23,223
se você realmente está em seu coração
acredite nisso,
1502
01:05:23,257 --> 01:05:24,526
então você pode estar
disposto a tomar
1503
01:05:24,559 --> 01:05:26,460
bastante risco
para fazer isso acontecer.
1504
01:05:26,493 --> 01:05:29,329
O Google acaba de lançar
seu mais novo modelo de IA.
1505
01:05:29,363 --> 01:05:31,699
A resposta para ChatGPT da OpenAI.
1506
01:05:31,733 --> 01:05:33,434
Como podemos chegar
esses dez trilhões?
1507
01:05:33,467 --> 01:05:35,502
A NVIDIA está se tornando a mais
empresa valiosa nos EUA?
1508
01:05:35,537 --> 01:05:39,574
Este é o maior negócio
oportunidade na história.
1509
01:05:39,607 --> 01:05:41,074
Na história.
1510
01:05:41,108 --> 01:05:42,710
Então, a razão pela qual
todo mundo está realmente empolgado
1511
01:05:42,744 --> 01:05:45,179
sobre inteligência artificial
agora mesmo
1512
01:05:45,212 --> 01:05:48,415
é porque
quanto mais essas empresas exageram
1513
01:05:48,449 --> 01:05:50,417
os recursos potenciais
de sua tecnologia,
1514
01:05:50,451 --> 01:05:53,555
quanto mais investimento
eles podem atrair.
1515
01:05:53,588 --> 01:05:55,222
CARL QUINTANILLA:
Amazon investindo até
1516
01:05:55,255 --> 01:05:57,592
quatro bilhões de dólares
na start-up Antrópica.
1517
01:05:57,625 --> 01:05:59,193
OpenAI está definindo seus objetivos
1518
01:05:59,226 --> 01:06:01,428
em uma metade de grande sucesso
uma avaliação de um trilhão de dólares.
1519
01:06:01,462 --> 01:06:02,597
Meio trilhão!
1520
01:06:02,630 --> 01:06:03,731
A corrida começou.
1521
01:06:03,765 --> 01:06:05,165
Isso está acontecendo
mais rápido do que nunca.
1522
01:06:05,199 --> 01:06:07,167
Estamos em uma bolha de IA?
Claro.
1523
01:06:07,201 --> 01:06:09,537
Eu simplesmente não vejo
a bolha estourando
1524
01:06:09,571 --> 01:06:12,707
enquanto você ainda tem
este importante ciclo de gastos.
1525
01:06:12,740 --> 01:06:15,409
RASKIN: Mesmo se você pensar
isso tudo é exagero,
1526
01:06:15,442 --> 01:06:18,145
existem bilhões
para trilhões de dólares
1527
01:06:18,178 --> 01:06:21,482
fluindo para a criação de sistemas de IA
mais poderoso.
1528
01:06:21,516 --> 01:06:24,351
E uma vez que você tem essa coisa
isso é mais poderoso,
1529
01:06:24,384 --> 01:06:25,753
as empresas podem usar isso
1530
01:06:25,787 --> 01:06:27,755
para obter lucros maiores
e ganhar mais dinheiro.
1531
01:06:27,789 --> 01:06:30,491
Os países podem usar isso
para formar forças armadas mais fortes.
1532
01:06:30,525 --> 01:06:33,293
NVIDIA ultrapassou
Microsoft e Apple
1533
01:06:33,327 --> 01:06:36,564
para se tornar o mundo
empresa mais valiosa.
1534
01:06:36,598 --> 01:06:39,399
A corrida para implantar torna-se
a corrida para a imprudência,
1535
01:06:39,433 --> 01:06:42,302
porque eles não podem
implantá-lo tão rapidamente
1536
01:06:42,336 --> 01:06:43,538
e também acertar.
1537
01:06:43,571 --> 01:06:46,440
Eles acreditam que
eles são os mocinhos.
1538
01:06:46,473 --> 01:06:49,611
"E se eu não fizer isso,
alguém que não tem
1539
01:06:49,644 --> 01:06:51,779
"valores tão bons quanto eu
estará sentado à mesa
1540
01:06:51,813 --> 01:06:55,082
tomar decisões, então
Eu tenho a obrigação de fazer isso."
1541
01:06:55,115 --> 01:06:56,551
Sim, isso é
uma crença muito comum.
1542
01:06:56,584 --> 01:06:59,152
Muitos, muitos, muitos,
talvez a maioria das pessoas
1543
01:06:59,186 --> 01:07:01,255
construindo esta tecnologia
acredite nisso.
1544
01:07:01,288 --> 01:07:04,258
Estou preocupado com
a concorrência comercial,
1545
01:07:04,291 --> 01:07:06,393
mas acontece
Estou ainda mais preocupado
1546
01:07:06,426 --> 01:07:08,428
a competição geopolítica.
1547
01:07:08,462 --> 01:07:10,665
Estávamos oito anos atrasados
há um ano.
1548
01:07:10,698 --> 01:07:12,800
Agora provavelmente estamos
menos de um ano atrás.
1549
01:07:12,834 --> 01:07:16,236
Bem, tanto a Arábia Saudita
e os Emirados Árabes Unidos têm corrido
1550
01:07:16,270 --> 01:07:18,673
para configurar data centers
e se posicionarem
1551
01:07:18,706 --> 01:07:20,675
como a força dominante na IA...
1552
01:07:20,708 --> 01:07:22,710
...para tornar a Coreia do Sul
um líder global em IA.
1553
01:07:22,744 --> 01:07:24,411
JÚLIA SIEGER:
Presidente francês Emmanuel Macron
1554
01:07:24,444 --> 01:07:26,380
falou muito sobre
inteligência artificial...
1555
01:07:26,413 --> 01:07:27,715
Agora com mais informações sobre o papel de Israel
1556
01:07:27,749 --> 01:07:29,817
na inteligência artificial
revolução...
1557
01:07:29,851 --> 01:07:33,487
Os países estarão competindo
para cujas tecnologias de IA
1558
01:07:33,521 --> 01:07:35,355
criar a próxima geração
da indústria.
1559
01:07:35,389 --> 01:07:38,626
Os chineses estão insistindo
aquela IA,
1560
01:07:38,660 --> 01:07:40,360
como sendo desenvolvido na China,
1561
01:07:40,394 --> 01:07:42,095
reforçar os valores fundamentais
1562
01:07:42,129 --> 01:07:44,431
do Partido Comunista Chinês
e o sistema chinês.
1563
01:07:44,464 --> 01:07:49,269
A América tem que vencer a China
na corrida de IA.
1564
01:07:49,303 --> 01:07:51,639
DANIEL: Da China, tipo,
anos-luz atrás.
1565
01:07:51,673 --> 01:07:53,240
Eles são?
1566
01:07:53,273 --> 01:07:55,442
Quero dizer, eles têm muito mais
dados de treinamento do que nós,
1567
01:07:55,475 --> 01:07:58,312
e não há nada dizendo que eles
não deixe cair um modelo no próximo mês
1568
01:07:58,345 --> 01:08:01,415
isso não é--
não supera em muito o desempenho do GPT-4.
1569
01:08:01,448 --> 01:08:04,318
Tudo estava indo muito bem.
O que poderia dar errado?
1570
01:08:04,351 --> 01:08:07,254
-DeepSeek... (falando chinês)
-DeepSeek... -DeepSeek...
1571
01:08:07,287 --> 01:08:08,455
Existe um novo modelo.
1572
01:08:08,488 --> 01:08:11,325
Mas de um laboratório chinês
chamado DeepSeek.
1573
01:08:11,358 --> 01:08:14,428
Vamos falar sobre DeepSeek,
porque é alucinante,
1574
01:08:14,461 --> 01:08:18,231
e está agitando isso
toda a indústria em seu núcleo.
1575
01:08:18,265 --> 01:08:19,701
A administração Trump
irá garantir
1576
01:08:19,734 --> 01:08:23,470
que o mais poderoso
Os sistemas de IA são construídos nos EUA
1577
01:08:23,503 --> 01:08:27,174
com design americano
e chips fabricados.
1578
01:08:27,207 --> 01:08:29,343
IA é da China
Projeto Apolo.
1579
01:08:29,376 --> 01:08:30,745
O Partido Comunista Chinês
1580
01:08:30,778 --> 01:08:32,179
compreende profundamente o potencial
1581
01:08:32,212 --> 01:08:33,380
para que a IA interrompa a guerra.
1582
01:08:33,413 --> 01:08:35,650
Google não promete mais
que não vai
1583
01:08:35,683 --> 01:08:38,886
usar inteligência artificial
para armas ou vigilância.
1584
01:08:38,920 --> 01:08:40,487
China, Coreia do Norte, Rússia
1585
01:08:40,521 --> 01:08:42,222
vamos continuar construindo
o mais rápido possível
1586
01:08:42,255 --> 01:08:44,792
para obter mais vantagens econômicas,
mais vantagem de produtividade,
1587
01:08:44,826 --> 01:08:47,361
mais vantagem científica,
mais vantagem militar,
1588
01:08:47,394 --> 01:08:48,896
porque a IA produz armas melhores.
1589
01:08:48,930 --> 01:08:52,299
Se você está falando sobre
um sistema tão amplo e capaz
1590
01:08:52,332 --> 01:08:53,635
como um cientista brilhante,
1591
01:08:53,668 --> 01:08:58,271
pode ser capaz de executar
uma campanha militar
1592
01:08:58,305 --> 01:09:01,743
melhor do que qualquer um dos generais
no governo dos EUA neste momento.
1593
01:09:01,776 --> 01:09:06,213
Taiwan é o problema que cria
a maior tensão agora
1594
01:09:06,246 --> 01:09:08,382
entre Pequim e os EUA.
1595
01:09:08,415 --> 01:09:10,918
Há um-um direto
desacordo de oposição
1596
01:09:10,952 --> 01:09:12,452
entre os EUA e a China
1597
01:09:12,486 --> 01:09:14,454
sobre se Taiwan é
parte da China.
1598
01:09:14,488 --> 01:09:18,926
MATHENY: Taiwan é importante
por vários motivos.
1599
01:09:18,960 --> 01:09:20,828
É também a casa de
1600
01:09:20,862 --> 01:09:24,565
cerca de 90% do chip avançado
fabricação para o mundo,
1601
01:09:24,599 --> 01:09:28,903
o que significa que o fornecimento
cadeia para computação avançada
1602
01:09:28,936 --> 01:09:31,506
está em risco caso haja
1603
01:09:31,539 --> 01:09:33,440
algum tipo de cenário
perto de Taiwan,
1604
01:09:33,473 --> 01:09:37,712
seja um bloqueio
ou uma invasão da China.
1605
01:09:38,311 --> 01:09:40,948
HENDRYCKS:
Vamos participar de alguma corrida?
1606
01:09:40,982 --> 01:09:45,853
entre os EUA e a China
que eventualmente se transforma em
1607
01:09:45,887 --> 01:09:49,891
uma corrida armamentista militarizada de IA e,
você sabe, potenciais leads
1608
01:09:49,924 --> 01:09:51,659
para algum grande conflito de poder?
1609
01:09:51,693 --> 01:09:53,493
NICK SCHIFRIN: A saída
comandante militar dos EUA
1610
01:09:53,528 --> 01:09:56,396
na região
previu que a guerra estava chegando.
1611
01:09:56,430 --> 01:09:58,432
Eu acho que a ameaça é manifesta
durante esta década,
1612
01:09:58,465 --> 01:09:59,967
na verdade, nos próximos seis anos.
1613
01:10:00,001 --> 01:10:01,769
MATENIA:
Hum, um dos cenários
1614
01:10:01,803 --> 01:10:06,406
que me preocupa é
uma guerra cibernética instantânea,
1615
01:10:06,440 --> 01:10:11,445
hum, aquele em que
ferramentas cibernéticas autônomas
1616
01:10:11,478 --> 01:10:13,447
estão competindo entre si
1617
01:10:13,480 --> 01:10:15,248
de maneiras que são escalonadas
1618
01:10:15,282 --> 01:10:17,317
sem
controle humano significativo.
1619
01:10:19,386 --> 01:10:20,755
HARARI:
Você mora em uma zona de guerra,
1620
01:10:20,788 --> 01:10:24,357
será uma IA decidindo
se deve bombardear sua casa
1621
01:10:24,391 --> 01:10:26,326
e se devo matar você.
1622
01:10:26,359 --> 01:10:27,995
Vamos deixar a máquina decidir.
1623
01:10:28,029 --> 01:10:29,731
Essa é a tentação.
1624
01:10:29,764 --> 01:10:32,867
É por isso que a IA é tão tentadora
para os militares adotarem,
1625
01:10:32,900 --> 01:10:36,003
para criar armas autônomas,
porque se eu começar a acreditar
1626
01:10:36,037 --> 01:10:39,607
que meu adversário militar
vai adotar IA,
1627
01:10:39,640 --> 01:10:42,375
será uma corrida para quem pode
puxe o gatilho mais rápido.
1628
01:10:42,409 --> 01:10:45,445
E aquele que automatiza
essa decisão,
1629
01:10:45,479 --> 01:10:47,615
em vez de ter
um humano no circuito,
1630
01:10:47,648 --> 01:10:49,817
é aquele
que vencerá essa guerra.
1631
01:10:49,851 --> 01:10:51,284
E se você pensar sobre
1632
01:10:51,318 --> 01:10:53,755
a corrida armamentista nuclear
na década de 1940...
1633
01:10:54,689 --> 01:10:56,891
...você conhece os alemães
estão trabalhando na bomba,
1634
01:10:56,924 --> 01:11:01,361
então não é tão fácil dizer
Robert Oppenheimer então,
1635
01:11:01,394 --> 01:11:04,031
"Uh, você sabe, vá devagar."
1636
01:11:04,065 --> 01:11:05,900
Então, depois de assistir esse filme,
vai ser confuso,
1637
01:11:05,933 --> 01:11:07,300
porque você vai voltar,
1638
01:11:07,334 --> 01:11:08,736
e amanhã
você usará o ChatGPT,
1639
01:11:08,770 --> 01:11:10,772
e vai ser
incrivelmente útil.
1640
01:11:10,805 --> 01:11:12,974
E eu vou usá-lo também, e
será incrivelmente útil.
1641
01:11:13,007 --> 01:11:16,611
E você dirá: "Espere, então
Acabei de ver esse filme sobre IA
1642
01:11:16,644 --> 01:11:18,513
"e risco existencial
e todas essas coisas,
1643
01:11:18,546 --> 01:11:20,915
e onde está a ameaça mesmo?"
1644
01:11:20,948 --> 01:11:24,986
E não é que o ChatGPT seja
a ameaça existencial.
1645
01:11:25,019 --> 01:11:29,322
É que a corrida para implantar
o mais poderoso,
1646
01:11:29,356 --> 01:11:32,093
inescrutável,
tecnologia incontrolável,
1647
01:11:32,126 --> 01:11:35,630
sob o pior
incentivos possíveis,
1648
01:11:35,663 --> 01:11:37,732
essa é a ameaça existencial.
1649
01:11:38,398 --> 01:11:40,935
Daniel:
Mas me parece que-que
1650
01:11:40,968 --> 01:11:43,671
estamos num contexto de corrida.
1651
01:11:43,704 --> 01:11:46,473
-SUTSKEVER: Sim.
-E é em um ambiente competitivo,
1652
01:11:46,507 --> 01:11:48,109
"Tenho que chegar lá primeiro,
tenho que vencer a corrida",
1653
01:11:48,142 --> 01:11:49,544
"tenho que competir contra a China,
1654
01:11:49,577 --> 01:11:50,945
tenho que competir contra
os outros laboratórios."
1655
01:11:50,978 --> 01:11:52,412
Não é verdade?
1656
01:11:52,445 --> 01:11:54,115
Hoje é o caso.
1657
01:11:54,148 --> 01:11:57,552
Então precisamos mudar
aquela dinâmica de corrida.
1658
01:11:58,519 --> 01:12:00,487
Você não acha?
1659
01:12:00,521 --> 01:12:02,857
Eu acho que isso seria
muito bom mesmo.
1660
01:12:04,158 --> 01:12:06,928
Eu-eu acho
há algum tipo de...
1661
01:12:06,961 --> 01:12:10,064
misticismo em torno da IA
isso faz com que pareça
1662
01:12:10,097 --> 01:12:11,999
caiu do céu.
1663
01:12:12,033 --> 01:12:14,001
DANIEL: Pensando nisso
como uma tecnologia divina
1664
01:12:14,035 --> 01:12:15,970
é um problema.
1665
01:12:16,003 --> 01:12:17,672
Sim.
1666
01:12:18,773 --> 01:12:20,473
Por que?
1667
01:12:20,508 --> 01:12:23,544
Dá licença
para as empresas...
1668
01:12:23,578 --> 01:12:26,714
(risos)
não assumir a responsabilidade
1669
01:12:26,747 --> 01:12:31,418
pelas coisas que o software
que eles construíram faz.
1670
01:12:31,451 --> 01:12:35,590
Se as pessoas fizessem essa conexão,
1671
01:12:35,623 --> 01:12:37,859
talvez isso fosse, tipo,
ajude-os a entender novamente
1672
01:12:37,892 --> 01:12:42,462
a dinâmica de
todo o dinheiro e poder e...
1673
01:12:42,495 --> 01:12:45,933
caos que está acontecendo...
1674
01:12:45,967 --> 01:12:47,602
criar esta tecnologia.
1675
01:12:47,635 --> 01:12:49,737
São, tipo, cinco caras
quem controla isso, certo?
1676
01:12:49,770 --> 01:12:52,139
-Tipo, cinco homens?
-Basicamente, sim.
1677
01:12:52,173 --> 01:12:54,642
-Os CEOs?
-Sim.
1678
01:12:54,675 --> 01:12:55,977
OK.
1679
01:12:57,178 --> 01:12:59,580
♪ ♪
1680
01:13:01,616 --> 01:13:03,618
Daniel:
Às vezes parece que
1681
01:13:03,651 --> 01:13:07,755
Já estive nisso
uma jornada sem fim
1682
01:13:07,788 --> 01:13:09,757
de tentar entender isso.
1683
01:13:09,790 --> 01:13:12,994
Você sabe, tipo
Estou escalando uma montanha...
1684
01:13:15,930 --> 01:13:19,634
...e sempre
Eu, tipo, subo uma colina,
1685
01:13:19,667 --> 01:13:21,035
Acho que cheguei ao topo,
1686
01:13:21,068 --> 01:13:24,005
mas continua acontecendo
e indo e indo.
1687
01:13:24,038 --> 01:13:25,072
(cliques da câmera, zumbidos)
1688
01:13:25,106 --> 01:13:27,174
Mas de tudo que ouvi,
1689
01:13:27,208 --> 01:13:30,778
se eu tivesse que adivinhar o que é
no topo da Montanha da Ansiedade,
1690
01:13:30,811 --> 01:13:34,682
são esses cinco CEOs
dessas cinco empresas,
1691
01:13:34,715 --> 01:13:37,952
que são meio parecidos com
Oppenheimers deste momento.
1692
01:13:37,985 --> 01:13:40,054
Esses são os caras
que estão construindo essa coisa.
1693
01:13:40,087 --> 01:13:41,454
Sim.
1694
01:13:41,488 --> 01:13:44,659
Tipo, existe um plano?
1695
01:13:44,692 --> 01:13:46,827
O chefe da empresa
isso torna o ChatGPT
1696
01:13:46,861 --> 01:13:50,531
avisado de possível
danos significativos ao mundo.
1697
01:13:50,564 --> 01:13:53,000
Eu acho que, se esta tecnologia
dá errado,
1698
01:13:53,034 --> 01:13:54,068
pode dar muito errado.
1699
01:13:54,101 --> 01:13:56,237
(explosões de conversa distinta)
1700
01:13:56,270 --> 01:13:58,072
Daniel:
Cinco caras.
1701
01:13:58,105 --> 01:14:01,943
Eu-eu nunca pensei em nós
como uma empresa de mídia social.
1702
01:14:01,976 --> 01:14:06,814
Parece que tenho que tentar
e-e encontrar esses caras...
1703
01:14:06,847 --> 01:14:07,515
Hum-hmm.
1704
01:14:07,548 --> 01:14:09,784
...e coloque-os no filme.
1705
01:14:10,584 --> 01:14:13,554
Certamente conseguiríamos
alguma clareza disso.
1706
01:14:14,188 --> 01:14:15,723
(cliques da câmera, zumbidos)
1707
01:14:16,590 --> 01:14:19,860
Quer dizer, a responsabilidade tem que parar
em algum lugar, certo?
1708
01:14:19,894 --> 01:14:21,862
(vento assobiando)
1709
01:14:21,896 --> 01:14:23,731
♪ ♪
1710
01:14:24,398 --> 01:14:26,734
(ferramentas zumbindo e clicando)
1711
01:14:27,668 --> 01:14:29,870
(assobio)
1712
01:14:34,608 --> 01:14:35,810
Daniel:
Como é isso?
1713
01:14:35,843 --> 01:14:38,212
-Ótimo.
-Tudo bem?
1714
01:14:38,245 --> 01:14:39,847
-Sim.
-(conversa indistinta da tripulação)
1715
01:14:39,880 --> 01:14:41,582
-Posso mover o assento para frente?
-DANIEL: Sim, você pode.
1716
01:14:41,615 --> 01:14:42,717
É, ah, é só
um pouco estranho.
1717
01:14:42,750 --> 01:14:43,985
Estou um pouco, tipo...
1718
01:14:44,018 --> 01:14:45,619
Dário, como você se sente
sobre aquela cadeira?
1719
01:14:45,653 --> 01:14:47,588
Hum, sim, a cadeira é boa.
1720
01:14:47,621 --> 01:14:49,290
-Eu só queria movê-lo
um pouco para frente. -OK.
1721
01:14:49,323 --> 01:14:51,125
Eu escolhi aquela cadeira.
1722
01:14:51,158 --> 01:14:52,727
-É uma boa cadeira.
-Obrigado.
1723
01:14:52,760 --> 01:14:54,562
(celular tocando)
1724
01:14:58,332 --> 01:15:00,500
TED:
E apenas sente-se aí.
1725
01:15:02,036 --> 01:15:03,104
E então por aqui,
1726
01:15:03,137 --> 01:15:05,006
estaremos olhando um para o outro
através deste vidro.
1727
01:15:05,039 --> 01:15:07,074
(sinal de ocupado apitando)
1728
01:15:11,879 --> 01:15:13,948
E recostando-se na cadeira,
inclinando-se para frente?
1729
01:15:13,981 --> 01:15:15,683
-DANIEL: Sim. Bem, seja lá o que for
confortável, eu acho. -OK.
1730
01:15:15,716 --> 01:15:17,018
É bem legal.
Há um monte de espelhos.
1731
01:15:17,051 --> 01:15:18,285
-Isso é-- ok.
-MULHER: Sam A., pegue um. Marca.
1732
01:15:18,319 --> 01:15:19,920
-Como é isso?
-Bom. Obrigado.
1733
01:15:19,954 --> 01:15:21,622
DANIEL: A gênese
deste projeto é que eu estava
1734
01:15:21,655 --> 01:15:23,290
sentado em casa,
e eu estava brincando com,
1735
01:15:23,324 --> 01:15:24,859
Eu acho que seu gerador de imagens,
1736
01:15:24,892 --> 01:15:27,762
e eu estava simultaneamente,
ah, apavorado
1737
01:15:27,795 --> 01:15:29,897
-e realmente impressionado.
-(ri baixinho)
1738
01:15:29,930 --> 01:15:32,333
-Essa é a combinação usual.
-E então corta para
1739
01:15:32,366 --> 01:15:35,002
minha esposa e eu descobrimos
estamos esperando.
1740
01:15:35,036 --> 01:15:38,773
E-e eu estou, tipo, tendo
uma crise existencial
1741
01:15:38,806 --> 01:15:40,775
como minha esposa é
grávida de seis meses.
1742
01:15:40,808 --> 01:15:43,577
E acho que minha primeira pergunta,
que pergunto a todos:
1743
01:15:43,611 --> 01:15:46,080
Agora é um momento terrível
ter um filho?
1744
01:15:46,113 --> 01:15:47,848
Estou cometendo um grande erro?
1745
01:15:47,882 --> 01:15:49,650
Estou esperando um filho
em março também. Meu primeiro.
1746
01:15:49,683 --> 01:15:50,918
-Você está esperando um filho?
-Sim.
1747
01:15:50,951 --> 01:15:52,319
-Você está grávida em março?
-Primeiro filho.
1748
01:15:52,353 --> 01:15:53,788
-Mazel tov.
-Muito obrigado.
1749
01:15:53,821 --> 01:15:54,922
Eu nunca estive tão animado
para qualquer coisa.
1750
01:15:54,955 --> 01:15:57,091
-É assim que me sinto.
-Sim.
1751
01:15:57,124 --> 01:15:58,759
Mas você não está com medo?
1752
01:15:58,793 --> 01:16:03,064
Quero dizer, tipo, ter um filho é
apenas essa coisa importante
1753
01:16:03,097 --> 01:16:05,633
que eu, você sabe,
Eu fico acordado todas as noites, tipo,
1754
01:16:05,666 --> 01:16:07,334
lendo esses livros sobre
como criar um filho,
1755
01:16:07,368 --> 01:16:08,769
e eu espero
Eu vou fazer um bom trabalho,
1756
01:16:08,803 --> 01:16:09,804
e parece
muito esmagador e--
1757
01:16:09,837 --> 01:16:12,673
mas não estou com medo...
1758
01:16:12,706 --> 01:16:14,675
para as crianças crescerem
em um mundo com IA.
1759
01:16:14,708 --> 01:16:16,811
Tipo, isso... vai ficar tudo bem.
1760
01:16:16,844 --> 01:16:19,280
Isso é bom de ouvir
vindo do cara.
1761
01:16:19,313 --> 01:16:21,082
Eu acho que é uma ideia maravilhosa
ter filhos.
1762
01:16:21,115 --> 01:16:23,784
Eu-eu acho que eles são os mais
coisa mágica e incrível.
1763
01:16:23,818 --> 01:16:25,820
-(suspira pesadamente)
-Há tanta incerteza,
1764
01:16:25,853 --> 01:16:27,188
eu quase faria
o que você vai fazer de qualquer maneira.
1765
01:16:27,221 --> 01:16:29,223
Eu sei que não é
uma resposta muito satisfatória,
1766
01:16:29,256 --> 01:16:32,359
mas é o único
Eu posso inventar.
1767
01:16:32,393 --> 01:16:34,929
Nossos filhos nunca vão...
1768
01:16:34,962 --> 01:16:37,331
conheço um mundo que não tem
IA realmente avançada.
1769
01:16:37,364 --> 01:16:40,167
Na verdade, nossos filhos nunca
seja mais inteligente que uma IA.
1770
01:16:40,201 --> 01:16:42,703
DANIEL: "Nossos filhos vão
nunca será mais inteligente que uma IA"?
1771
01:16:42,736 --> 01:16:44,839
Bem, de uma forma crua,
de uma perspectiva de QI bruto,
1772
01:16:44,872 --> 01:16:46,807
eles nunca serão
mais inteligente que uma IA.
1773
01:16:46,841 --> 01:16:48,309
Essa noção não
perturbar você um pouco?
1774
01:16:48,342 --> 01:16:51,712
Porque isso me faz sentir
um pouco enjoado de uma forma estranha.
1775
01:16:51,745 --> 01:16:55,316
Hum, isso me perturba
um pouco.
1776
01:16:55,349 --> 01:16:56,817
Mas é a realidade.
1777
01:16:56,851 --> 01:16:58,819
Daniel:
Ok, então dinâmica de corrida.
1778
01:16:58,853 --> 01:17:01,655
Temos um monte de gente
que estão todos de acordo
1779
01:17:01,689 --> 01:17:03,190
que isso é assustador.
1780
01:17:03,224 --> 01:17:05,126
Com base nos prazos que
muitas pessoas me deram,
1781
01:17:05,159 --> 01:17:07,661
temos entre dois meses e
cinco anos para descobrir isso.
1782
01:17:07,695 --> 01:17:09,063
-Sim.
-E-e, eu acho,
1783
01:17:09,096 --> 01:17:13,767
minha maior dúvida é:
Por que não podemos simplesmente parar?
1784
01:17:14,768 --> 01:17:19,340
O problema com, uh, uh,
"apenas parar" é isso, hum,
1785
01:17:19,373 --> 01:17:22,776
existem muitos, muitos grupos agora
ao redor do mundo, uh, uh,
1786
01:17:22,810 --> 01:17:26,113
construindo isso, para
muitas nações, muitas empresas,
1787
01:17:26,147 --> 01:17:28,749
hum, todos com
motivações diferentes.
1788
01:17:28,782 --> 01:17:31,152
Existem alguns
essas empresas neste espaço
1789
01:17:31,185 --> 01:17:34,455
qual é a posição deles: "Queremos
para desenvolver esta tecnologia
1790
01:17:34,488 --> 01:17:36,323
absolutamente o mais rápido possível."
1791
01:17:36,357 --> 01:17:40,694
E mesmo se pudéssemos aprovar leis
nos EUA e na Europa,
1792
01:17:40,728 --> 01:17:42,897
precisamos convencer...
1793
01:17:42,930 --> 01:17:45,266
Xi Jinping e Vladimir Putin
ou, você sabe,
1794
01:17:45,299 --> 01:17:47,968
quem quer que seja seu científico
os conselheiros estão do seu lado.
1795
01:17:48,002 --> 01:17:49,837
Isso vai ser muito difícil.
1796
01:17:49,870 --> 01:17:51,238
Eu acho que é verdade
1797
01:17:51,272 --> 01:17:54,041
que se duas pessoas estiverem
exatamente no mesmo lugar,
1798
01:17:54,074 --> 01:17:56,410
uh, aquele que está disposto a aceitar
mais atalhos em segurança
1799
01:17:56,443 --> 01:17:58,746
deveria meio que
"chegue lá primeiro."
1800
01:17:58,779 --> 01:18:01,715
Ah, mas...
1801
01:18:01,749 --> 01:18:03,284
podemos usar nossa liderança
1802
01:18:03,317 --> 01:18:06,720
passar muito mais tempo
fazendo testes de segurança.
1803
01:18:06,754 --> 01:18:08,455
Daniel:
E e se você perdê-lo?
1804
01:18:08,489 --> 01:18:10,057
Você recebe a ligação
e você descobre
1805
01:18:10,090 --> 01:18:12,092
que você está agora, digamos,
seis meses atrasado.
1806
01:18:12,126 --> 01:18:14,828
-O-O que acontece então?
-Depende de quem estamos atrás.
1807
01:18:14,862 --> 01:18:17,364
Se for, tipo,
um governo adversário,
1808
01:18:17,398 --> 01:18:19,200
isso provavelmente é muito ruim.
1809
01:18:19,233 --> 01:18:21,902
Então, digamos que você receba a ligação
que a China tem um,
1810
01:18:21,936 --> 01:18:25,172
tem um recursivamente
agente de autoaperfeiçoamento
1811
01:18:25,206 --> 01:18:27,808
ou algo assim que nós
deveria estar realmente preocupado.
1812
01:18:27,841 --> 01:18:30,010
O que... o que acontece?
1813
01:18:31,478 --> 01:18:33,113
Hum...
1814
01:18:35,950 --> 01:18:37,484
Esse caso exigiria...
1815
01:18:37,519 --> 01:18:41,088
o primeiro passo seria
para falar com o governo dos EUA.
1816
01:18:41,121 --> 01:18:43,457
Sam, você confia no
capacidade do governo para lidar
1817
01:18:43,490 --> 01:18:45,292
algo assim?
1818
01:18:46,427 --> 01:18:48,162
Sim, eu quero, na verdade.
1819
01:18:48,195 --> 01:18:50,030
Há outras coisas que eu não
confiar no governo para lidar com isso,
1820
01:18:50,064 --> 01:18:51,832
mas esse cenário específico,
acho que eles saberiam...
1821
01:18:51,865 --> 01:18:53,167
eles-eles-- sim.
1822
01:18:53,200 --> 01:18:54,969
DANIEL: Quando você tiver,
tipo, discussões privadas
1823
01:18:55,002 --> 01:18:56,937
com os outros caras cujos
os dedos estão no gatilho,
1824
01:18:56,971 --> 01:19:00,241
por assim dizer, hum,
fazer aquelas discussões privadas
1825
01:19:00,274 --> 01:19:01,875
te encher de confiança
1826
01:19:01,909 --> 01:19:03,545
ou eles fazem você,
ah, mais ansioso?
1827
01:19:03,578 --> 01:19:07,414
Olha, quero dizer, eu sei alguns
deles melhor do que outros.
1828
01:19:07,448 --> 01:19:10,417
Hum, eu tenho mais confiança
em alguns deles, do que eu tenho
1829
01:19:10,451 --> 01:19:12,920
em outros, você sabe,
como com, como com qualquer pessoa.
1830
01:19:12,953 --> 01:19:14,388
Você sabe,
você pensa, você sabe,
1831
01:19:14,421 --> 01:19:16,223
as crianças da sua escola
aula ou algo assim, certo?
1832
01:19:16,257 --> 01:19:18,526
Você sabe, alguns deles são,
você sabe, muito fofo.
1833
01:19:18,560 --> 01:19:20,961
Alguns deles são bem-intencionados
mas não tão eficaz.
1834
01:19:20,995 --> 01:19:22,930
Alguns deles são,
você sabe, valentões.
1835
01:19:22,963 --> 01:19:24,198
Alguns deles são
pessoas realmente ruins.
1836
01:19:24,231 --> 01:19:26,300
(gagueja)
Você, você meio que realmente,
1837
01:19:26,333 --> 01:19:27,535
você realmente vê a propagação.
1838
01:19:27,569 --> 01:19:29,236
Você sabe, eu sou, eu sou,
estou confiante
1839
01:19:29,270 --> 01:19:31,071
que todo mundo vai fazer
a coisa certa,
1840
01:19:31,105 --> 01:19:32,540
que tudo vai dar certo?
1841
01:19:32,574 --> 01:19:34,241
Hum, não, não estou.
1842
01:19:34,275 --> 01:19:36,010
E não há nada
Eu posso fazer isso, certo?
1843
01:19:36,043 --> 01:19:38,379
Você sabe, tudo que posso fazer
é-é um impulso para o,
1844
01:19:38,412 --> 01:19:39,813
empurre para o, você sabe,
1845
01:19:39,847 --> 01:19:41,181
pressionar pelo governo
para se envolver.
1846
01:19:41,215 --> 01:19:43,150
Mas no final das contas estou apenas
uma pessoa lá também.
1847
01:19:43,183 --> 01:19:44,586
Isso é--
depende de todos nós
1848
01:19:44,619 --> 01:19:46,353
pressionar pelo governo
para se envolver.
1849
01:19:46,387 --> 01:19:49,023
Essa é a coisa número um
isso-que eu acho que precisamos fazer
1850
01:19:49,056 --> 01:19:51,292
to-to, você sabe, para definir as coisas
na direção certa.
1851
01:19:51,325 --> 01:19:53,160
O que me deixa ansioso
sobre isso é, tipo,
1852
01:19:53,193 --> 01:19:56,463
a realidade básica de que o
velocidade com que a tecnologia
1853
01:19:56,497 --> 01:19:58,966
está proliferando e crescendo
é exponencial,
1854
01:19:58,999 --> 01:20:02,002
e os mecanismos para legislar
tem 300 anos,
1855
01:20:02,036 --> 01:20:03,304
-leva para sempre.
-Sim.
1856
01:20:03,337 --> 01:20:05,573
Hum, eu-eu acho
vai ser um trabalho pesado.
1857
01:20:05,607 --> 01:20:07,274
Eu-eu definitivamente concordo
com você nisso.
1858
01:20:07,308 --> 01:20:09,276
DANIEL: Você sabe,
o que estou literalmente procurando
1859
01:20:09,310 --> 01:20:11,513
é-é tipo,
"Aqui estão etapas que, como,
1860
01:20:11,546 --> 01:20:15,449
"os chefões vão
levar para focar na segurança,
1861
01:20:15,482 --> 01:20:18,586
para mitigar o perigo
e maximizar a promessa."
1862
01:20:18,620 --> 01:20:20,588
E eu não,
Eu não, eu não sei
1863
01:20:20,622 --> 01:20:22,423
que há
uma resposta simples para isso.
1864
01:20:22,456 --> 01:20:24,091
Hum...
1865
01:20:26,360 --> 01:20:28,262
Quero dizer, isso talvez seja
muito simples,
1866
01:20:28,295 --> 01:20:30,632
mas você...
1867
01:20:30,665 --> 01:20:32,333
criar um novo modelo,
1868
01:20:32,366 --> 01:20:35,202
você estuda e testa
com muito cuidado.
1869
01:20:35,235 --> 01:20:37,871
Você colocou isso para fora
gradualmente no mundo,
1870
01:20:37,905 --> 01:20:40,074
e então, cada vez mais,
você entende
1871
01:20:40,107 --> 01:20:41,875
se isso é seguro ou não,
e então se for,
1872
01:20:41,909 --> 01:20:43,377
você pode dar o próximo passo.
1873
01:20:44,445 --> 01:20:47,414
Não parece tão chamativo
como, tipo, um cientista brilhante
1874
01:20:47,448 --> 01:20:50,652
ter uma ideia em um
laboratório para fazer um sistema de IA, como,
1875
01:20:50,685 --> 01:20:54,355
perfeitamente seguro e controlável
e tudo mais,
1876
01:20:54,388 --> 01:20:56,190
mas é o que eu acredito
vai acontecer.
1877
01:20:56,223 --> 01:20:57,559
Tipo, é o caminho
Eu acho que isso funciona.
1878
01:20:57,592 --> 01:20:59,561
Mas vamos apenas dizer
algo terrível acontece,
1879
01:20:59,594 --> 01:21:02,429
como um modelo se solta
ou fica desonesto ou algo assim.
1880
01:21:02,463 --> 01:21:04,031
Existe um protocolo?
1881
01:21:04,064 --> 01:21:06,266
Tipo, literalmente,
Estou imaginando um telefone vermelho.
1882
01:21:06,300 --> 01:21:07,635
-Sim.
-Desculpe por pensar nisso
1883
01:21:07,669 --> 01:21:09,103
em termos de filmes, mas, tipo...
1884
01:21:09,136 --> 01:21:10,371
Existe um protocolo.
1885
01:21:10,404 --> 01:21:12,039
-Existe um telefone vermelho
na sua mesa? -Não.
1886
01:21:12,072 --> 01:21:13,508
(risos):
É um segredo?
1887
01:21:13,541 --> 01:21:15,643
Quero dizer, uh, não, não é,
não é tão sofisticado ou dramático
1888
01:21:15,677 --> 01:21:17,512
como você, tipo, esperaria,
mas tem, tipo, você sabe...
1889
01:21:17,545 --> 01:21:19,279
nós, tipo, pensamos bem
esses cenários,
1890
01:21:19,313 --> 01:21:21,081
e se isso acontecer,
vamos ligar para essas pessoas
1891
01:21:21,115 --> 01:21:22,349
nesta ordem e faça isso
1892
01:21:22,383 --> 01:21:24,017
e tipo de fazer
essas decisões se, tipo...
1893
01:21:24,051 --> 01:21:26,387
Eu acredito nisso
quando você tiver uma oportunidade
1894
01:21:26,420 --> 01:21:29,423
para pensar antes
uma situação estressante acontece,
1895
01:21:29,456 --> 01:21:30,991
isso é quase sempre
uma boa ideia.
1896
01:21:31,024 --> 01:21:32,226
E anotá-lo é útil.
1897
01:21:32,259 --> 01:21:34,128
-Estar preparado é útil.
-Sim.
1898
01:21:34,962 --> 01:21:36,397
(suspira) Você...
1899
01:21:36,430 --> 01:21:39,233
Seria impossível
para eu sentar na sua frente
1900
01:21:39,266 --> 01:21:41,669
e-e peço que você me prometa
que isso vai dar certo?
1901
01:21:41,703 --> 01:21:43,504
Isso é impossível.
1902
01:21:44,104 --> 01:21:46,173
Não há respostas fáceis,
infelizmente.
1903
01:21:46,206 --> 01:21:48,442
Uh, porque é tal
uma tecnologia de ponta,
1904
01:21:48,475 --> 01:21:50,244
hum, ainda há
muitas incógnitas.
1905
01:21:50,277 --> 01:21:52,714
E eu acho que
isso-isso precisa ser,
1906
01:21:52,747 --> 01:21:55,416
hum, uh, você sabe, entendido
1907
01:21:55,449 --> 01:21:59,554
e-e daí a necessidade
para, uh, uh, alguma cautela.
1908
01:21:59,587 --> 01:22:01,288
Eu acordo, você sabe, todos os dias,
1909
01:22:01,321 --> 01:22:04,024
este é o, este é o
é a primeira coisa em que penso.
1910
01:22:04,057 --> 01:22:05,459
Agora, olhe, eu sou humano,
1911
01:22:05,492 --> 01:22:08,596
e, você sabe, tem-tem
cada decisão foi perfeita?
1912
01:22:08,630 --> 01:22:12,166
Posso ao menos dizer minhas motivações
sempre foram perfeitamente claros?
1913
01:22:12,199 --> 01:22:14,101
Claro que não.
Ninguém pode dizer isso.
1914
01:22:14,134 --> 01:22:17,004
Tipo, isso é
só não, tipo, você sabe...
1915
01:22:17,037 --> 01:22:19,173
isso é-isso simplesmente não é
como as pessoas trabalham.
1916
01:22:19,206 --> 01:22:21,408
A-a história da ciência
tende a ser isso,
1917
01:22:21,442 --> 01:22:23,745
para melhor ou para pior,
se algo for possível fazer--
1918
01:22:23,778 --> 01:22:27,414
e agora sabemos que a IA é possível
fazer - a humanidade faz isso.
1919
01:22:27,448 --> 01:22:30,217
Tudo isso
ia acontecer.
1920
01:22:30,250 --> 01:22:32,587
Este-este trem
não vai parar.
1921
01:22:32,620 --> 01:22:34,722
Você não pode ficar na frente
o trem e pará-lo.
1922
01:22:34,756 --> 01:22:36,724
Você simplesmente vai ser esmagado.
1923
01:22:36,758 --> 01:22:39,226
ALTMAN:
Quer dizer, é muito estressante.
1924
01:22:40,194 --> 01:22:41,462
Você sabe, há, tipo,
1925
01:22:41,495 --> 01:22:43,197
muitas coisas
muitos de nós não sabemos.
1926
01:22:43,230 --> 01:22:47,000
Eu acho que a história
da descoberta científica é
1927
01:22:47,034 --> 01:22:48,736
um de não saber
o que você não sabe
1928
01:22:48,770 --> 01:22:50,204
e descobrir conforme você avança.
1929
01:22:50,237 --> 01:22:53,575
Uh, mas, sim, é um...
1930
01:22:53,608 --> 01:22:55,976
é uma maneira estressante de viver.
1931
01:22:56,811 --> 01:22:59,246
DANIEL: Certo. Sam, obrigado
muito por fazer isso.
1932
01:22:59,279 --> 01:23:01,081
-E de novo, mazel tov.
-Obrigado. E para você.
1933
01:23:01,114 --> 01:23:03,383
Muito obrigado. Obrigado, pessoal.
1934
01:23:03,417 --> 01:23:06,253
♪ ♪
1935
01:23:08,388 --> 01:23:09,990
(suspira)
1936
01:23:11,593 --> 01:23:13,528
(eletricidade crepitando)
1937
01:23:13,561 --> 01:23:16,363
-(trovão estala)
-(assobiando, grunhindo)
1938
01:23:43,190 --> 01:23:45,392
-(cliques do videocassete)
-(toque de linha)
1939
01:23:48,328 --> 01:23:49,797
-(cliques na linha)
-KEVIN ROHER: Olá.
1940
01:23:49,831 --> 01:23:51,131
Daniel:
Ei, pai, como você está?
1941
01:23:51,164 --> 01:23:52,165
KEVIN:
Bom. Como você está?
1942
01:23:52,199 --> 01:23:53,500
Você está trabalhando? O que você está fazendo?
1943
01:23:53,535 --> 01:23:55,770
Daniel:
Estou trabalhando neste filme sobre IA.
1944
01:23:55,803 --> 01:23:58,305
KEVIN:
E como vai?
1945
01:23:58,338 --> 01:24:00,708
Daniel:
Sabe, é... é mesmo...
1946
01:24:00,742 --> 01:24:02,544
-JOANNE ROHER: Oi, querido.
-DANIEL: Olá, mãe.
1947
01:24:02,577 --> 01:24:04,344
JOANNE: Então, o que é
a premissa do filme?
1948
01:24:04,378 --> 01:24:07,180
É um documentário?
Kev, não use mais temperos.
1949
01:24:07,214 --> 01:24:08,816
Já está picante demais.
1950
01:24:08,850 --> 01:24:10,718
Estamos fazendo frango agora.
1951
01:24:10,752 --> 01:24:13,186
-É um documentário ou algo assim...
-DANIEL: É sobre--
1952
01:24:13,220 --> 01:24:14,421
o filme é sobre
o fim do mundo.
1953
01:24:14,454 --> 01:24:16,290
O fim do mundo está chegando,
1954
01:24:16,323 --> 01:24:18,158
e estamos fazendo um filme
sobre o fim do mundo.
1955
01:24:18,191 --> 01:24:20,327
-JOANNE: Sério?
-DANIEL: Sim.
1956
01:24:20,360 --> 01:24:22,162
KEVIN: Meio deprimente
filme, parece.
1957
01:24:22,195 --> 01:24:23,698
JOANA:
Sim.
1958
01:24:23,731 --> 01:24:29,436
DANIEL: Estou me sentindo muito,
como... essa ansiedade muito aguda.
1959
01:24:29,469 --> 01:24:31,673
JOANNE: É tão assustador,
mas tem que haver--
1960
01:24:31,706 --> 01:24:35,810
você sabe, vocês estão se encontrando
algumas pessoas superinteligentes
1961
01:24:35,843 --> 01:24:38,312
que estão lhe dando alguma resposta?
1962
01:24:38,345 --> 01:24:40,113
DANIEL: É isso
frustrante com isso.
1963
01:24:40,147 --> 01:24:41,683
Ninguém sabe.
1964
01:24:41,716 --> 01:24:44,384
JOANA:
Tudo o que posso dizer é que
1965
01:24:44,418 --> 01:24:50,190
cada geração teve
algo assustador como isso.
1966
01:24:50,223 --> 01:24:52,760
KEVIN: Quando eu nasci, era
a crise dos mísseis cubanos.
1967
01:24:52,794 --> 01:24:54,596
(batimento cardíaco constante)
1968
01:24:54,629 --> 01:24:56,864
Eu só estava com medo disso
seria uma guerra nuclear.
1969
01:24:56,898 --> 01:24:58,298
JOANA:
Sim, mas não sabíamos
1970
01:24:58,332 --> 01:24:59,534
o que eles iriam fazer e...
1971
01:24:59,567 --> 01:25:01,168
KEVIN:
E o mundo não acabou.
1972
01:25:01,201 --> 01:25:02,202
Todos acordaram
na manhã seguinte,
1973
01:25:02,235 --> 01:25:03,871
e ainda estamos fazendo o nosso trabalho.
1974
01:25:03,905 --> 01:25:05,439
Daniel:
Estou com muito medo,
1975
01:25:05,472 --> 01:25:07,407
especialmente em
o contexto de, como,
1976
01:25:07,441 --> 01:25:09,577
-você sabe, o bebê e...
-(batimento cardíaco fetal pulsante)
1977
01:25:09,611 --> 01:25:11,178
KEVIN:
Será uma curva de aprendizado.
1978
01:25:11,211 --> 01:25:12,479
JOANA:
Você vai ficar bem.
1979
01:25:12,513 --> 01:25:13,681
KEVIN: Você não pode,
você não consegue pensar
1980
01:25:13,715 --> 01:25:14,849
o que você não pode controlar, Daniel.
1981
01:25:14,882 --> 01:25:16,551
Lembre-se disso.
1982
01:25:16,584 --> 01:25:18,251
DANIEL (voz quebrada):
Estou realmente sentindo
1983
01:25:18,285 --> 01:25:19,587
nervoso e assustado com isso.
1984
01:25:19,621 --> 01:25:21,488
Há tanta coisa
que não posso controlar.
1985
01:25:21,522 --> 01:25:24,358
KEVIN: Não fique nervoso.
Você não pode deixar isso afetar você.
1986
01:25:24,391 --> 01:25:26,794
Você só pode controlar
o que você pode controlar,
1987
01:25:26,828 --> 01:25:28,395
e isso é tudo que você pode fazer.
1988
01:25:28,428 --> 01:25:31,231
Você não pode fazer mais do que isso.
1989
01:25:31,264 --> 01:25:33,433
Escreva isso em seu livro.
1990
01:25:35,870 --> 01:25:37,572
♪ ♪
1991
01:25:44,712 --> 01:25:47,447
(batimento cardíaco fetal pulsando)
1992
01:25:47,481 --> 01:25:49,651
(uivando)
1993
01:25:49,684 --> 01:25:52,219
CAROLINA:
Quando você olha para trás,
1994
01:25:52,252 --> 01:25:54,922
o mundo está sempre acabando.
1995
01:25:54,956 --> 01:25:57,357
E quando você olha para frente,
1996
01:25:57,391 --> 01:25:59,627
o mundo está sempre acabando.
1997
01:25:59,661 --> 01:26:02,429
...em chamas.
Uma casa já está pegando fogo...
1998
01:26:02,462 --> 01:26:06,299
CAROLINE: Mas o mundo
também está sempre começando.
1999
01:26:08,402 --> 01:26:10,437
Daniel:
Você está pronto?
2000
01:26:10,470 --> 01:26:12,674
Você está realmente pronto?
2001
01:26:16,443 --> 01:26:18,278
DANIEL: Você quer dirigir
ou você quer que eu dirija?
2002
01:26:18,311 --> 01:26:19,547
CAROLINA:
Você dirige.
2003
01:26:20,815 --> 01:26:22,382
-(mulher fala indistintamente)
-CAROLINA: Ok.
2004
01:26:22,416 --> 01:26:24,284
Daniel:
Obrigado, Maria.
2005
01:26:24,317 --> 01:26:26,654
MULHER: Vai apenas
sinto muita cólica.
2006
01:26:26,688 --> 01:26:28,355
-CAROLINE: Tudo bem.
-MULHER: Você está pronto?
2007
01:26:28,388 --> 01:26:29,691
-CAROLINE: Sim.
-(conversa indistinta)
2008
01:26:29,724 --> 01:26:30,958
(Caroline suspira pesadamente)
2009
01:26:30,992 --> 01:26:33,326
MULHER: Você poderia estar em um
drama médico com tudo isso...
2010
01:26:34,595 --> 01:26:36,597
♪ ♪
2011
01:26:44,706 --> 01:26:46,607
-(estalos estáticos)
-(conversa indistinta)
2012
01:26:49,610 --> 01:26:51,746
MULHER:
...alguma pressão.
2013
01:26:53,313 --> 01:26:54,749
Apenas relaxe.
2014
01:26:57,451 --> 01:26:59,821
-(bebê chorando)
-(dispositivo apitando)
2015
01:27:02,623 --> 01:27:05,626
Daniel:
Olá, amigo. Ah.
2016
01:27:05,660 --> 01:27:06,961
Olá, amigo.
2017
01:27:06,994 --> 01:27:09,362
♪ ♪
2018
01:27:31,652 --> 01:27:34,321
KEVIN:
Será um mundo totalmente novo
2019
01:27:34,354 --> 01:27:35,723
para você, Daniel.
2020
01:27:37,658 --> 01:27:40,762
E eu acho que você vai ficar
um pai incrível.
2021
01:27:41,863 --> 01:27:44,899
JOANA (risos):
Isso é certo.
2022
01:27:44,932 --> 01:27:47,068
-(Kevin chorando)
-Ah.
2023
01:27:47,101 --> 01:27:49,302
(o choro continua)
2024
01:27:49,336 --> 01:27:51,572
KEVIN:
Você fará um ótimo trabalho.
2025
01:27:52,206 --> 01:27:53,541
JOANA:
Kev, por que você está chorando?
2026
01:27:53,574 --> 01:27:55,076
KEVIN:
Estou chorando porque...
2027
01:27:55,109 --> 01:27:57,545
Eu não sei. Eu simplesmente não...
2028
01:27:57,578 --> 01:27:59,914
DANIEL: Pai, você vai
me faça chorar também.
2029
01:27:59,947 --> 01:28:01,549
Por que você está chorando?
2030
01:28:03,651 --> 01:28:05,853
KEVIN: Eu simplesmente sei disso
você será um pai incrível.
2031
01:28:05,887 --> 01:28:07,655
DANIEL (chorando):
Eu serei um ótimo pai
2032
01:28:07,688 --> 01:28:09,957
porque eu tive um ótimo pai.
2033
01:28:09,991 --> 01:28:12,894
KEVIN: Estou ficando emocionado,
isso é tudo.
2034
01:28:12,927 --> 01:28:14,327
JOANA:
Ah.
2035
01:28:14,361 --> 01:28:15,462
(conversa divertida por vídeo)
2036
01:28:15,495 --> 01:28:17,064
(sobre vídeo):
Rapaz, ah, rapaz!
2037
01:28:17,098 --> 01:28:18,633
Meu Deus!
2038
01:28:19,267 --> 01:28:21,035
Olhe para essas pequenas atrevidas.
2039
01:28:21,068 --> 01:28:25,573
Olhe para essas pequenas atrevidas.
Olhe para essas pequenas atrevidas.
2040
01:28:25,606 --> 01:28:26,741
Sim.
2041
01:28:26,774 --> 01:28:29,376
Daniel:
Eu sei como terminar este filme.
2042
01:28:30,011 --> 01:28:31,712
Bebês.
2043
01:28:32,379 --> 01:28:35,883
-O final do filme é sobre
bebês. -(conversa durante vídeos)
2044
01:28:35,917 --> 01:28:37,618
Eles são uma afirmação da vida.
2045
01:28:37,652 --> 01:28:39,486
Eles são exaustivos.
2046
01:28:39,520 --> 01:28:41,421
-(bebê rindo)
-Eles são hilários.
2047
01:28:41,454 --> 01:28:42,957
E valem a pena.
2048
01:28:42,990 --> 01:28:46,828
Este filme não é sobre
funcionamento interno de uma tecnologia.
2049
01:28:46,861 --> 01:28:48,696
Não se trata
os CEOs bilionários.
2050
01:28:48,729 --> 01:28:50,665
Não se trata de geopolítica.
2051
01:28:50,698 --> 01:28:53,935
Não se trata do aterrorizante
futuro ou o fim do mundo,
2052
01:28:53,968 --> 01:28:56,137
porque meu mundo
está apenas começando.
2053
01:28:56,170 --> 01:28:57,972
Estou construindo um berço.
2054
01:28:58,005 --> 01:28:59,907
Aqui e agora.
2055
01:28:59,941 --> 01:29:01,008
(bebê arrulhando)
2056
01:29:01,042 --> 01:29:02,743
A IA vai mudar tudo
2057
01:29:02,777 --> 01:29:05,913
de maneiras muito poderosas e
complexo para entendermos.
2058
01:29:05,947 --> 01:29:09,717
E o futuro não é
para qualquer um de nós decidir.
2059
01:29:10,818 --> 01:29:13,921
Mas o que posso decidir é ser
o melhor marido possível
2060
01:29:13,955 --> 01:29:17,992
para minha esposa e o melhor
possível pai para meu filho.
2061
01:29:18,025 --> 01:29:21,796
Então, se o nosso futuro em IA é
uma distopia de pesadelo
2062
01:29:21,829 --> 01:29:24,098
ou a utopia
com que todos sonhamos,
2063
01:29:24,131 --> 01:29:27,134
Pelo menos saberei
que fiz tudo o que pude
2064
01:29:27,168 --> 01:29:30,605
para orientar minha família
por meio desta revolução da IA.
2065
01:29:30,638 --> 01:29:34,474
E não importa o que aconteça,
enfrentaremos isso juntos.
2066
01:29:34,508 --> 01:29:35,877
(música edificante aumenta)
2067
01:29:35,910 --> 01:29:37,444
(a música para abruptamente)
2068
01:29:37,477 --> 01:29:40,047
Daniel:
Então essa é apenas a nossa primeira ideia.
2069
01:29:40,715 --> 01:29:43,084
Como é isso?
Você está sentindo isso?
2070
01:29:43,117 --> 01:29:45,720
Espere, eu... tipo, isso não é...
isso é uma piada.
2071
01:29:45,753 --> 01:29:48,388
Na verdade não é
como você vai acabar com isso.
2072
01:29:50,591 --> 01:29:53,160
Quero dizer, é apenas uma ideia. OK?
2073
01:29:53,194 --> 01:29:54,996
Não, Danilo.
2074
01:29:55,029 --> 01:29:56,631
...uh, muito, muito idiota.
2075
01:29:56,664 --> 01:29:59,166
Você acabou de gastar, eu não
sabe, tipo, quantos anos
2076
01:29:59,200 --> 01:30:03,104
da nossa vida trabalhando nisso,
conversando com todos os principais especialistas
2077
01:30:03,137 --> 01:30:05,539
no planeta sobre o assunto,
2078
01:30:05,573 --> 01:30:08,175
e você vai acabar com isso
2079
01:30:08,209 --> 01:30:11,444
com alguns, tipo,
besteira kumbaya?
2080
01:30:11,478 --> 01:30:14,048
Há um asteróide
dirigiu-se para a Terra.
2081
01:30:14,081 --> 01:30:15,917
O que você faz? Apenas...
2082
01:30:15,950 --> 01:30:18,152
dar as mãos
e espero que dê certo, tudo bem?
2083
01:30:18,185 --> 01:30:19,854
Absolutamente não.
2084
01:30:19,887 --> 01:30:22,924
Nós temos que-- isso ha--
tem que ser...
2085
01:30:22,957 --> 01:30:25,026
O final tem que...
2086
01:30:26,493 --> 01:30:28,529
CAROLINA:
Ok, primeira coisa:
2087
01:30:28,562 --> 01:30:32,033
A IA está aqui,
e veio para ficar.
2088
01:30:32,066 --> 01:30:33,534
A merda está fora do cavalo,
2089
01:30:33,567 --> 01:30:36,436
mas o cavalo é
vou continuar cagando.
2090
01:30:38,873 --> 01:30:39,807
(multidão aplaudindo)
2091
01:30:39,840 --> 01:30:41,943
Você sabe, um dos princípios básicos
leis da história
2092
01:30:41,976 --> 01:30:44,578
é que nada
realmente tem um começo
2093
01:30:44,612 --> 01:30:46,580
e nada tem fim.
2094
01:30:46,614 --> 01:30:48,049
Simplesmente continua.
2095
01:30:48,082 --> 01:30:50,918
A IA não está nem perto
seu pleno desenvolvimento.
2096
01:30:50,952 --> 01:30:53,087
CAROLINE: Mesmo que
a atual bolha de IA estourou,
2097
01:30:53,120 --> 01:30:54,956
-os humanos nunca vão parar
-(golpes barulhentos)
2098
01:30:54,989 --> 01:30:57,959
construindo cada vez mais
tecnologia poderosa.
2099
01:30:57,992 --> 01:30:59,827
HAO:
Você pode optar por não usar IA
2100
01:30:59,860 --> 01:31:02,730
ou participar dele, mas é
vai afetar você de qualquer maneira.
2101
01:31:02,763 --> 01:31:04,231
DANIEL: Ok, fantástico.
Então estamos ferrados.
2102
01:31:04,265 --> 01:31:07,568
CAROLINA: Não, não estamos
por causa de uma coisa simples.
2103
01:31:11,572 --> 01:31:13,574
Isto não é inevitável.
2104
01:31:13,607 --> 01:31:15,576
Se pudéssemos ver isso
claramente juntos,
2105
01:31:15,609 --> 01:31:18,813
a resposta óbvia será
para escolher algo diferente.
2106
01:31:18,846 --> 01:31:21,615
Precisamos muito claramente
mudar o jogo
2107
01:31:21,649 --> 01:31:23,517
de uma corrida para o fundo
em uma corrida até o topo.
2108
01:31:23,551 --> 01:31:27,855
LEAHY: O problema que precisamos resolver
resolver não é IA especificamente.
2109
01:31:27,888 --> 01:31:31,726
É a questão geral
de como construímos uma sociedade
2110
01:31:31,759 --> 01:31:34,528
que pode lidar com
tecnologia poderosa.
2111
01:31:34,562 --> 01:31:35,830
Porque vamos conseguir
2112
01:31:35,863 --> 01:31:37,264
só que cada vez mais poderoso
tecnologia.
2113
01:31:37,298 --> 01:31:40,034
CAROLINA:
Precisamos atualizar nossa sociedade,
2114
01:31:40,067 --> 01:31:41,902
e o primeiro passo é
nos unindo
2115
01:31:41,936 --> 01:31:43,838
-e exigente...
-TODOS: Coordenação.
2116
01:31:43,871 --> 01:31:47,608
Alguma forma de internacional
cooperação ou acordo sobre
2117
01:31:47,641 --> 01:31:48,909
quais deveriam ser as normas.
2118
01:31:48,943 --> 01:31:50,544
Você sabe, como deveria
eles sejam implantados...
2119
01:31:50,578 --> 01:31:52,146
Tipo, de verdade
diplomacia internacional
2120
01:31:52,179 --> 01:31:53,781
entre as superpotências.
2121
01:31:53,814 --> 01:31:56,784
Os chineses estão tão preocupados
sobre isso como os americanos.
2122
01:31:56,817 --> 01:31:58,085
Eu acho que é difícil,
você sabe,
2123
01:31:58,119 --> 01:31:59,920
no atual
clima geopolítico,
2124
01:31:59,954 --> 01:32:01,756
-mas acho que é necessário.
-RASKIN: Com certeza.
2125
01:32:01,789 --> 01:32:05,059
Exatamente da mesma maneira que
a última vez que a humanidade
2126
01:32:05,092 --> 01:32:09,163
desenvolveu uma tecnologia
isso é perigoso...
2127
01:32:09,830 --> 01:32:12,900
...que exigia um trabalho completo,
mudança sem precedentes
2128
01:32:12,933 --> 01:32:15,169
à estrutura do nosso mundo.
2129
01:32:15,770 --> 01:32:18,172
CAROLINA:
Então precisamos fazer isso completamente,
2130
01:32:18,205 --> 01:32:20,307
mudança sem precedentes novamente.
2131
01:32:21,008 --> 01:32:24,678
Você sabe, nós conversamos com as pessoas
que trabalham nessas empresas de IA,
2132
01:32:24,712 --> 01:32:25,846
e eles dizem que querem fazer
algo diferente,
2133
01:32:25,880 --> 01:32:27,048
mas eles precisam de pressão pública.
2134
01:32:27,081 --> 01:32:28,716
Eles precisam do governo
para fazer alguma coisa.
2135
01:32:28,749 --> 01:32:30,217
Então vamos para DC,
e eles dizem:
2136
01:32:30,251 --> 01:32:32,153
"Bem, precisamos do Vale do Silício
para fazer algo diferente.
2137
01:32:32,186 --> 01:32:34,021
São eles que vão
venha com as grades de proteção."
2138
01:32:34,055 --> 01:32:36,057
E então todo mundo está apontando
o dedo para outra pessoa,
2139
01:32:36,090 --> 01:32:39,927
e o que eles concordam é
que precisamos de pressão pública
2140
01:32:39,960 --> 01:32:41,796
para que outra coisa
acontecer.
2141
01:32:41,829 --> 01:32:43,164
E é isso que você
2142
01:32:43,197 --> 01:32:44,799
e todas as pessoas
assistir a esse filme pode fazer.
2143
01:32:44,832 --> 01:32:45,833
CAROLINA:
Precisamos segurar os líderes
2144
01:32:45,866 --> 01:32:47,334
em nossos governos
2145
01:32:47,368 --> 01:32:48,969
e os líderes de
essas empresas são responsáveis.
2146
01:32:49,003 --> 01:32:51,639
BOEREE:
Qualquer que seja o país em que você esteja,
2147
01:32:51,672 --> 01:32:53,340
deixe-os saber
que você não está feliz
2148
01:32:53,374 --> 01:32:54,975
com o status quo atual.
2149
01:32:55,009 --> 01:32:57,678
Então, sim, é chato dizer
ligue para o seu congressista.
2150
01:32:57,711 --> 01:32:59,880
Eu não estou dizendo que você deveria
apenas faça isso, mas, tipo,
2151
01:32:59,914 --> 01:33:01,215
nós temos que fazer isso.
2152
01:33:01,248 --> 01:33:02,883
Tipo, nós temos que conseguir
o governo envolvido.
2153
01:33:02,917 --> 01:33:04,185
DANIEL: Então nós apenas
ligue para eles e diga:
2154
01:33:04,218 --> 01:33:06,253
"Ei, pare com a Big Tech
de arruinar o mundo"?
2155
01:33:06,287 --> 01:33:09,223
CAROLINE: Não, mas há
toneladas de coisas realmente óbvias,
2156
01:33:09,256 --> 01:33:11,225
coisas simples
podemos ser exigentes.
2157
01:33:11,258 --> 01:33:12,960
Precisamos de transparência.
2158
01:33:12,993 --> 01:33:14,795
Precisamos acabar com o sigilo
que existe dentro desses laboratórios,
2159
01:33:14,829 --> 01:33:17,031
porque eles estão construindo
tecnologia poderosa,
2160
01:33:17,064 --> 01:33:19,066
e o público merece saber
o que está acontecendo.
2161
01:33:19,100 --> 01:33:21,068
Em última análise,
precisaremos de independência,
2162
01:33:21,102 --> 01:33:23,637
terceiros objetivos
para avaliar os sistemas.
2163
01:33:23,671 --> 01:33:27,274
Não podemos contar com as empresas
para avaliar seu próprio dever de casa.
2164
01:33:27,308 --> 01:33:31,378
Se-se uma empresa usa IA e-e
tem IA interagindo com você,
2165
01:33:31,412 --> 01:33:35,249
deve revelar que você é
interagindo com um sistema de IA.
2166
01:33:35,282 --> 01:33:39,019
Sim. E-e também precisamos
um sistema que faz com que as empresas
2167
01:33:39,053 --> 01:33:42,156
legalmente responsável pelo
Sistemas de IA que eles produzem.
2168
01:33:42,189 --> 01:33:46,293
Precisamos ter certeza de que há
são testes e padrões de segurança
2169
01:33:46,327 --> 01:33:48,662
que são aplicados a todos.
2170
01:33:48,696 --> 01:33:50,097
Precisamos de algumas regras básicas,
2171
01:33:50,131 --> 01:33:51,999
e precisamos continuar nos adaptando
essas regras
2172
01:33:52,032 --> 01:33:55,002
na velocidade que
a tecnologia se desenvolve.
2173
01:33:55,035 --> 01:33:57,738
LEAHY: Atualmente existe
mais regulamentação
2174
01:33:57,771 --> 01:33:59,840
sobre vender um sanduíche
para o público
2175
01:33:59,874 --> 01:34:03,410
do que há na construção
AGI potencialmente capaz de acabar com o mundo.
2176
01:34:03,444 --> 01:34:05,279
CAROLINA:
E a última coisa é
2177
01:34:05,312 --> 01:34:07,214
para nos atualizarmos.
2178
01:34:07,915 --> 01:34:10,284
Este não é, tipo, o trabalho
de, tipo, a equipe de segurança
2179
01:34:10,317 --> 01:34:12,153
em qualquer laboratório ou o CEO.
2180
01:34:12,186 --> 01:34:13,854
Então, tipo, isso é
trabalho de todos.
2181
01:34:13,888 --> 01:34:15,156
Não, tipo, deixe isso
até os especialistas em IA.
2182
01:34:15,189 --> 01:34:17,424
Tipo, (bip) isso.
Tipo, este é o momento
2183
01:34:17,458 --> 01:34:19,460
que estamos em transição
de, tipo,
2184
01:34:19,493 --> 01:34:22,163
principalmente poder cognitivo humano
para, tipo, poder cognitivo da IA,
2185
01:34:22,196 --> 01:34:23,197
e isso afeta a todos,
2186
01:34:23,230 --> 01:34:25,166
e eu quero que as pessoas sejam
nessa conversa.
2187
01:34:25,199 --> 01:34:27,234
E eu diria, se você pensa
que a IA vai matar todos nós,
2188
01:34:27,268 --> 01:34:28,969
você deveria estar trabalhando
em pesquisa de IA
2189
01:34:29,003 --> 01:34:30,804
para ter certeza de que isso não acontece,
porque você tem
2190
01:34:30,838 --> 01:34:32,773
uma enorme quantidade de agência.
2191
01:34:32,806 --> 01:34:34,208
CAROLINA:
Seja você quem for,
2192
01:34:34,241 --> 01:34:36,177
você é um especialista
em seu próprio setor,
2193
01:34:36,210 --> 01:34:39,413
na sua própria escola,
em sua própria família,
2194
01:34:39,446 --> 01:34:43,050
e depende de você
como a IA é usada em sua vida.
2195
01:34:43,083 --> 01:34:45,319
Se você deseja participar
seu conselho escolar
2196
01:34:45,352 --> 01:34:48,389
ou-ou se você quer perguntar
seu empregador
2197
01:34:48,422 --> 01:34:49,924
como eles estão usando
tecnologias de IA,
2198
01:34:49,957 --> 01:34:52,259
tipo, todos nós podemos fazer o trabalho.
2199
01:34:52,293 --> 01:34:56,330
Muitos sindicatos foram
bastante eficaz em, tipo,
2200
01:34:56,363 --> 01:34:59,333
determinar como eles querem
para interagir com esses sistemas.
2201
01:34:59,366 --> 01:35:02,303
-Sindicatos de enfermeiros, sindicatos de professores.
-(canto indistinto)
2202
01:35:02,937 --> 01:35:05,039
DANIELA AMODEI: Eu adoraria
se os pais em todos os lugares
2203
01:35:05,072 --> 01:35:06,407
foi para as empresas de IA
e disse:
2204
01:35:06,440 --> 01:35:08,342
"Como você pode ser melhor
sobre isso?" Incluindo nós.
2205
01:35:08,375 --> 01:35:11,445
Então, fundei a Encode Justice
quando eu tinha 15 anos.
2206
01:35:11,478 --> 01:35:15,082
Somos os primeiros do mundo
e o maior exército de jovens
2207
01:35:15,115 --> 01:35:18,452
lutando por soluções centradas no ser humano
inteligência artificial.
2208
01:35:18,485 --> 01:35:21,288
Não importa quem você é,
até as menores ações ajudam,
2209
01:35:21,322 --> 01:35:24,291
e até mesmo uma conversa começando
é muito, muito valioso.
2210
01:35:24,325 --> 01:35:26,293
Daniel:
Então meu trabalho poderia ser, tipo,
2211
01:35:26,327 --> 01:35:28,295
conte isso para Bubby Lila
no jantar?
2212
01:35:28,329 --> 01:35:30,364
CAROLINE: Honestamente, sim,
isso faz parte.
2213
01:35:30,397 --> 01:35:32,099
E nós vamos ter que fazer
2214
01:35:32,132 --> 01:35:34,969
muitas coisas que
ainda nem pensamos.
2215
01:35:35,002 --> 01:35:36,503
As pessoas vão olhar
qualquer coisa que descrevemos
2216
01:35:36,538 --> 01:35:37,838
e dizer: "Isso não é suficiente."
2217
01:35:37,871 --> 01:35:39,473
O que importa é que as forças
2218
01:35:39,507 --> 01:35:41,242
que estão funcionando
em direção a soluções
2219
01:35:41,275 --> 01:35:44,979
começar a exceder as forças que
estão trabalhando contra soluções.
2220
01:35:45,012 --> 01:35:46,947
Tornando o mundo melhor
sempre foi difícil.
2221
01:35:46,981 --> 01:35:48,249
Nunca foi fácil.
2222
01:35:48,282 --> 01:35:50,317
Tipo, houve
muitas coisas ruins
2223
01:35:50,351 --> 01:35:52,286
que aconteceram na história,
e nós tivemos--
2224
01:35:52,319 --> 01:35:54,121
tipo, as pessoas tiveram
para lidar com isso,
2225
01:35:54,154 --> 01:35:57,191
e então eles se levantaram
e mudou.
2226
01:35:57,224 --> 01:36:00,894
Há um número insano
dos desafios que temos pela frente,
2227
01:36:00,928 --> 01:36:04,398
mas se conseguirmos ultrapassá-los,
2228
01:36:04,431 --> 01:36:08,536
podemos desbloquear um futuro além
nossa imaginação mais selvagem.
2229
01:36:08,570 --> 01:36:10,804
CAROLINA:
Temos que nos unir
2230
01:36:10,838 --> 01:36:14,875
e encontre o caminho entre
a promessa e o perigo.
2231
01:36:14,908 --> 01:36:17,177
Não podemos ser pessimistas
ou otimistas.
2232
01:36:17,778 --> 01:36:20,180
Temos que nos tornar algo novo.
2233
01:36:22,182 --> 01:36:25,185
Um amigo meu me liga
um apocalotimista.
2234
01:36:25,219 --> 01:36:26,186
"Apocalotimista"?
2235
01:36:26,220 --> 01:36:28,889
Eu acho que isso pode ser
minha nova palavra favorita.
2236
01:36:28,922 --> 01:36:30,291
-(risos) -MAN: Pode ser
o nome deste filme.
2237
01:36:30,324 --> 01:36:31,892
-Pode ser o nome
deste filme. -(risos)
2238
01:36:31,925 --> 01:36:34,862
-"Apocalotimista."
-"Apocalotimista."
2239
01:36:34,895 --> 01:36:36,430
Sim.
2240
01:36:36,463 --> 01:36:37,898
Eu não acredito em desgraça.
2241
01:36:37,931 --> 01:36:39,366
Eu acredito no espírito da vida,
2242
01:36:39,400 --> 01:36:43,137
uh, e eu acredito que a vida é
sobre a capacidade de agir.
2243
01:36:43,170 --> 01:36:44,905
-(multidão cantando)
-A capacidade de se relacionar,
2244
01:36:44,938 --> 01:36:47,141
a capacidade de sentir.
2245
01:36:49,376 --> 01:36:51,345
-(conversa indistinta sobre missão)
-(torcendo)
2246
01:36:51,378 --> 01:36:54,315
Temos que dobrar a aposta
mais e mais
2247
01:36:54,348 --> 01:36:57,384
nessas capacidades
que temos como humanos
2248
01:36:57,418 --> 01:36:59,853
que sistemas robóticos
nunca terá.
2249
01:37:00,487 --> 01:37:04,559
Chegou a hora
para tomar essas decisões sobre
2250
01:37:04,592 --> 01:37:08,062
como orientá-lo e apoiá-lo
em vez de nos dividir.
2251
01:37:08,095 --> 01:37:10,898
DANIEL: Parece
criando um filho.
2252
01:37:10,931 --> 01:37:12,634
É isso que está acontecendo. Sim.
2253
01:37:12,667 --> 01:37:15,035
CAROLINE: A IA pode ter
mais inteligência bruta
2254
01:37:15,069 --> 01:37:17,471
-do que nossos pequenos cérebros humanos,
-(bebê rindo)
2255
01:37:17,504 --> 01:37:20,608
mas somos muito mais
do que apenas a nossa inteligência.
2256
01:37:21,208 --> 01:37:25,379
Inteligência é-é
a capacidade de resolver problemas.
2257
01:37:25,412 --> 01:37:29,116
Sabedoria é a capacidade de saber
quais problemas resolver.
2258
01:37:31,519 --> 01:37:34,188
(conversa indistinta da tripulação)
2259
01:37:34,221 --> 01:37:35,489
Daniel:
Pode ir para sua geladeira.
2260
01:37:35,523 --> 01:37:36,658
(rindo)
2261
01:37:36,691 --> 01:37:38,626
YUDKOWSKY:
Então, não desista.
2262
01:37:38,660 --> 01:37:40,227
A humanidade fez
2263
01:37:40,260 --> 01:37:43,030
coisas mais difíceis que isso
em sua história.
2264
01:37:43,897 --> 01:37:46,967
É difícil convencer
pessoas que deveriam.
2265
01:37:47,000 --> 01:37:49,336
♪ ♪
2266
01:37:52,072 --> 01:37:53,273
(áudio estala)
2267
01:37:55,309 --> 01:37:57,277
DANIEL: Então, quando comecei
fazer este filme,
2268
01:37:57,311 --> 01:37:59,012
Eu diria que estava, tipo,
2269
01:37:59,046 --> 01:38:01,348
amplamente um idiota cínico
sobre tudo isso.
2270
01:38:01,382 --> 01:38:03,450
Ao longo do curso
de fazer o filme,
2271
01:38:03,484 --> 01:38:05,152
Eu entendi
isso, tipo,
2272
01:38:05,185 --> 01:38:06,987
essa é a única coisa
não podemos.
2273
01:38:07,756 --> 01:38:09,990
...ou qualquer outra coisa
você gostaria de discutir?
2274
01:38:10,023 --> 01:38:11,992
Não. Acho que cobrimos muita coisa.
2275
01:38:12,025 --> 01:38:13,561
-Sim. (risos)
-MAN: Muito obrigado.
2276
01:38:13,595 --> 01:38:15,295
Obrigado.
2277
01:38:15,929 --> 01:38:17,498
Daniel:
Este é um problema ainda maior
2278
01:38:17,532 --> 01:38:19,400
do que qualquer pessoa.
2279
01:38:19,433 --> 01:38:22,136
Isso mudará o mundo em
maneiras que não entendemos.
2280
01:38:22,169 --> 01:38:24,037
Tudo isso é verdade.
2281
01:38:24,071 --> 01:38:26,106
-(risos): Ok.
-(conversa indistinta)
2282
01:38:26,140 --> 01:38:28,208
Daniel:
Mas o que temos é agência
2283
01:38:28,242 --> 01:38:30,411
é o que fazemos a respeito.
2284
01:38:30,444 --> 01:38:33,113
À medida que a IA de fronteira cresce
exponencialmente mais capaz...
2285
01:38:33,147 --> 01:38:34,682
Daniel:
E a realidade
2286
01:38:34,716 --> 01:38:37,151
é que se apenas decidirmos
é impossível,
2287
01:38:37,184 --> 01:38:39,420
então não há esperança.
2288
01:38:39,453 --> 01:38:41,221
...para colocar menos estresse
no planeta Terra...
2289
01:38:41,255 --> 01:38:43,257
Daniel:
Mas se você decidir
2290
01:38:43,290 --> 01:38:46,293
que você deseja experimentar...
2291
01:38:47,194 --> 01:38:48,563
...então você tenta.
2292
01:38:48,596 --> 01:38:50,931
E isso é difícil.
2293
01:38:51,733 --> 01:38:53,500
Mas quer saber?
2294
01:38:53,535 --> 01:38:57,137
Coisas grandes parecem impossíveis
antes que eles realmente aconteçam.
2295
01:38:58,673 --> 01:39:01,676
Mas quando eles finalmente acontecerem,
2296
01:39:01,709 --> 01:39:05,713
é porque milhões de pessoas
realizou milhões de ações
2297
01:39:05,747 --> 01:39:08,182
para fazê-los acontecer.
2298
01:39:08,215 --> 01:39:10,752
E então...
2299
01:39:10,785 --> 01:39:13,220
temos que tentar.
2300
01:39:14,087 --> 01:39:15,523
(suspira pesadamente)
2301
01:39:21,663 --> 01:39:24,298
Há muita coisa em jogo.
2302
01:39:24,331 --> 01:39:26,366
♪ ♪
2303
01:39:33,040 --> 01:39:35,375
(filme estalando)
2304
01:39:37,545 --> 01:39:41,749
Veja as mudanças incríveis
nós experimentamos e sobrevivemos
2305
01:39:41,783 --> 01:39:43,317
da Idade da Pedra,
2306
01:39:43,350 --> 01:39:46,487
e ainda mudanças ainda maiores
ainda estão por vir.
2307
01:39:46,521 --> 01:39:50,090
("Perdi para tentar"
por Son Lux tocando)
2308
01:40:19,086 --> 01:40:21,288
♪ ♪
2309
01:40:48,181 --> 01:40:50,718
♪ O que faremos agora? ♪
2310
01:40:50,752 --> 01:40:53,755
♪ Perdemos o controle por tentar ♪
2311
01:40:53,788 --> 01:40:55,690
♪ Nós perdemos isso ♪
2312
01:40:55,723 --> 01:40:57,457
♪ Para tentar ♪
2313
01:41:00,193 --> 01:41:02,764
♪ O que faremos agora? ♪
2314
01:41:02,797 --> 01:41:05,733
♪ Perdemos o controle por tentar ♪
2315
01:41:05,767 --> 01:41:07,602
♪ Nós perdemos isso ♪
2316
01:41:07,635 --> 01:41:09,469
♪ Para tentar ♪
2317
01:41:12,205 --> 01:41:14,709
♪ O que podemos dizer agora? ♪
2318
01:41:14,742 --> 01:41:17,745
♪ Nossas bocas apenas mentem ♪
2319
01:41:17,779 --> 01:41:19,212
♪ Nossas bocas ♪
2320
01:41:19,246 --> 01:41:21,448
♪ Apenas mentindo ♪
2321
01:41:25,720 --> 01:41:28,255
♪ O que podemos dizer agora? ♪
2322
01:41:28,288 --> 01:41:31,358
♪ Nossas bocas apenas mentem ♪
2323
01:41:31,391 --> 01:41:32,760
♪ Nossas bocas ♪
2324
01:41:32,794 --> 01:41:34,762
♪ Apenas mentindo ♪
2325
01:41:34,796 --> 01:41:37,197
♪ ♪
2326
01:42:01,522 --> 01:42:04,291
♪ Ceda e saia ♪
2327
01:42:04,324 --> 01:42:07,294
♪ Nós ressuscitamos na morte ♪
2328
01:42:07,327 --> 01:42:08,763
♪ Nós nos levantamos ♪
2329
01:42:08,796 --> 01:42:11,164
♪ Na morte ♪
2330
01:42:13,568 --> 01:42:16,336
♪ Ceda e saia ♪
2331
01:42:16,370 --> 01:42:19,272
♪ Nós ressuscitamos na morte ♪
2332
01:42:19,306 --> 01:42:20,775
♪ Nós nos levantamos ♪
2333
01:42:20,808 --> 01:42:23,176
♪ Na morte ♪
2334
01:42:25,546 --> 01:42:28,248
♪ Ceda e saia ♪
2335
01:42:28,281 --> 01:42:31,251
♪ Nós ressuscitamos na morte ♪
2336
01:42:31,284 --> 01:42:32,787
♪ Nós nos levantamos ♪
2337
01:42:32,820 --> 01:42:35,155
♪ Na morte ♪
2338
01:42:37,558 --> 01:42:40,293
♪ Ceda e saia ♪
2339
01:42:40,327 --> 01:42:43,263
♪ Nós ressuscitamos na morte ♪
2340
01:42:43,296 --> 01:42:44,532
♪ Nós ♪
2341
01:42:44,565 --> 01:42:46,601
♪ ♪
2342
01:43:16,263 --> 01:43:18,465
♪ ♪
2343
01:43:23,336 --> 01:43:25,840
♪ Ah, ah, ah, ah, ah ♪
2344
01:43:25,873 --> 01:43:27,675
♪ Ah, ah, ah, ah ♪
2345
01:43:27,709 --> 01:43:28,943
♪ Ah, ah ♪
2346
01:43:28,976 --> 01:43:31,913
♪ Ah, ah, ah, ah, ah, ah ♪
2347
01:43:31,946 --> 01:43:33,648
♪ Ah, ah, ah, ah ♪
2348
01:43:33,681 --> 01:43:34,916
♪ Ah, ah ♪
2349
01:43:34,949 --> 01:43:37,552
♪ Ah, ah, ah, ah, ah, ah ♪
2350
01:43:37,585 --> 01:43:40,287
♪ O que faremos agora? ♪
2351
01:43:40,320 --> 01:43:43,290
♪ Perdemos o controle por tentar ♪
2352
01:43:43,323 --> 01:43:45,026
♪ Nós perdemos isso ♪
2353
01:43:45,059 --> 01:43:46,861
♪ Para tentar ♪
2354
01:43:46,894 --> 01:43:49,530
♪ Ah, ah, ah, ah, ah, ah ♪
2355
01:43:49,564 --> 01:43:52,332
♪ O que faremos agora? ♪
2356
01:43:52,365 --> 01:43:55,335
♪ Perdemos o controle por tentar ♪
2357
01:43:55,368 --> 01:43:57,038
♪ Nós perdemos isso ♪
2358
01:43:57,071 --> 01:43:58,940
♪ Para tentar. ♪
2359
01:43:58,973 --> 01:44:01,374
♪ ♪
2360
01:44:23,798 --> 01:44:24,865
(música termina)